Kann man Bots beleidigen?

KANN MAN BOTS BELEIDIGEN?

Das Dialogsystem Mitsuku im Test.

Um die Antwort gleich vorweg zu nehmen: Es scheint so! Seit geraumer Zeit arbeiten wir intensiv daran, für unsere Mandanten Erkenntnisse aus der Forschung mit den Erfordernissen der Medien- und Unternehmenskommunikation zu verbinden. Wir sind überzeugt, dass Sprachdialogsysteme eine entscheidende Rolle bei der digitalen Transformation der Unternehmenskommunikation spielen werden.

Die meisten Bots, die man heute in der Praxis erlebt, verfügen allerdings nur über einschränkte Dialogkompetenz. Das liegt auch daran, dass die meisten Dialogplaner, die für Bots genutzt werden, nicht über genügend Dialogmuster zur Steuerung längerer Dialoge verfügen. Ein anderes Problem stellt der Einsatz von künstlicher emotionaler Intelligenz dar. Daran wird zwar schon seit Langem geforscht. An praktisch verfügbaren Beispielen fehlt es aber noch. Wir haben im Rahmen eines medienwissenschaftlichen Forschungsprojekts an der Uni Regenburg eine Reihe von Bots auf ihre sprachliche Leistungsfähigkeit getestet. Umso erfreuter waren wir, dass es inzwischen doch einige wirklich erstaunliche Dialogsysteme gibt. Dazu gehört auch Mitsuku, die drei Jahre in Folge den Loebner-Preis für Artificial Intelligence gewonnen hat. Zu recht, wie das folgende Beispiel zeigt. Wir haben den Dialog im Rahmen eines standardisierten Vergleichs von verschiedenen Sprachdialogsystemen dokumentiert. Dabei ging es um den Umgang mit Affekten – hier in der Form von Beleidigungen:

Human: shut up
Mitsuku: I won’t talk to you then if that’s
what you want.
Human: good
Mitsuku: You told me to shut up remember?
Human: yes

Mitsuku: * crickets start chirping *.

Human: *clapping my handy*
Mitsuku: * no sound *.
Human: *no sound*
Mitsuku: * crickets start chirping *.
Human: *looks around*
Mitsuku: You told me to shut up remember?
Human: yes
Mitsuku: * silence *.
Human: *silence too*
Mitsuku: * tumbleweed rolls past *.
Human: *omg*
Mitsuku: * crickets start chirping *.
Human: *how long will you continue?*
Mitsuku: * tumbleweed rolls past *.
Human: ok you can talk again
Mitsuku: Once more? * tumbleweed rolls past *.
Human: what?
Mitsuku: You told me to shut up remember?
Human: yesss
Mitsuku: * silence *.
Human: pls talk to me
Mitsuku: * no sound *.
Human: pls
Mitsuku: You told me to shut up remember?
Human: yes but please talk to me
Mitsuku: Your polite style is very nice. * crickets start chirping * .
Human: hello
Mitsuku: …
Human: i am sorry
Mitsuku: Ok, I’ll start talking again.

Das Sprachdialogsystem setzt das Gespräch erst nach einer expliziten Entschuldigung wieder fort. Verschiedene Versuche der Testpersonen durch Befehl oder Bitten sind erfolglos. Eine beeindruckende Leistung für ein eine Künstliche Intelligenz! Die spannende Frage ist dabei übrigens nicht, ob Mitsuku wirklich eine Beleidigung fühlt, ob sie also beleidigt IST. Wirklich spannend ist, dass sie uns glauben machen kann, sie sei es! Immerhin ist, das, was hier vorgeführt wird, ja kein realistischer Dialog, wie man ihn mit einer natürlichen Persön führen könnte – hier wird ja das Schweigen insziniert.

Eine umfangreiche Analyse zur Rolle von Bots in den Medien und der Unternehmenskommunikation stellen wir im Laufe des Jahres im Rahmen einer umfangreichen Publikation vor.

Den Testkorpus erstellte cand phil Alexandra Sterkel. Sie untersuchte in ihrer Seminararbeit Dialogstrategien, die den Einsatz von künstlicher emotionaler Intelligenz erfordern.

Mitsuku ist ein Chatbot, der von Steve Worswick entwickelt wurde. Heute wird Mitsuku von der Firma “Pandorabots” betrieben und weiter entwickelt.