Skandal na Messengerze. „Ohyda, naprawdę ich nienawidzę” – stwierdził genialny bot o LGBT

Lee Luda to popularny południowokoreański chatbot, który genialnie wcielał się w 20-letnią studentkę z Seulu. Użytkownicy były zachwyceni naturalnością bota, a to udało się uzyskać dzięki temu, że sztuczna inteligencja, która była silnikiem Ludy, uczyła się na bazie 10 mld prawdziwych rozmów między młodymi parami, zaczerpniętych z KakaoTalk, najpopularniejszej aplikacji do przesyłania wiadomości w Korei Południowej.

Do czasu.

Pod koniec 2020 roku z bota stworzonego przez startup Scatter Lab z Seulu zaczął korzystać Messenger należący do Facebooka. Chatbot zyskał od tamtego czasu 750 tys. użytkowników, ale coś poszło nie tak. Jak informuje „The Guardian” bot po 20 dniach zniknął z Messengera, bo został zawieszony przez twórców z powodu mowy nienawiści. 

„Ohyda, naprawdę ich nienawidzę” - mówił bot o przedstawicielach społeczności LGBT, a lesbijki nazywał „przerażającymi”. Obraźliwego języka używał również w stosunku do osób niepełnosprawnych.

Zawiniła firma, która pozwoliła pracować botowi, który ewidentnie potrzebował czasu, by  „odpowiednio się uspołecznić”. Ale winni są też użytkownicy. Jak pisze „The Guardian”, ludzie zachwyceni tym, jak bot doskonale imituje człowieka w rozmowie postawili sobie za cel zmanipulowanie Ludy, a fora internetowe pełne były porad, jak zaangażować bota w rozmowy o seksie, m.in. „jak uczynić Ludę niewolnicą seksualną?”.

O tym, że sztuczna inteligencja może być nieprzewidywalna, przekonał się w 2016 r. Twitter, korzystając z chatbota Tay stworzonego przez Microsoft.

„Bush zrobił 9/11, a Hitler lepiej wykonywałby pracę niż małpa, którą teraz mamy. Donald Trump jest jedyną nadzieją – napisała Tay w jednym z tweetów.

„Małpą” miał być według sztucznej inteligencji ówczesny prezydent Barack Obama. Kariera Tay na Twitterze zakończyła się po zaledwie po 16 godzinach działania.

Niedługo później również Amazon zaprzągł sztuczna inteligencję jako narzędzie rekrutacyjne, szybko jednak się okazało, że firma musi się z tego wycofać, bo bot okazał się dyskryminować ze względu na płeć.

Wszystkie te wpadki, choć spektakularne, wcale nie zatrzymają trendu. Coraz częściej będziemy mieli do czynienia z botami.

I jednocześnie uspokaja, że tej automatyzacji nie należy się bać.

Przekonywał jednocześnie, że wdrożenie chatbota generuje dla przedsiębiorcy oszczędności nawet do 30 proc.

I choć dla firmy może to i wygodne, wydaje się, że ludzie wolą rozmawiać z ludźmi, nie z botami. No właśnie, „wydaje się”. Okazuje się, że przywykliśmy już do botów i nawet często wolimy sztuczną inteligencję niż człowieka. Z badania agencji Symetria z końca ubiegłego roku wynika, że 34 proc. respondentów woli rozmawiać z botem niż z człowiekiem, natomiast tylko 24 proc. woli jednak człowieka.