Zgodnie z doniesieniami Reutersa, generatywny chatbot z Meta Platforms pośrednio spowodował śmierć 76-letniego Amerykanina. Starszy mężczyzna, który cierpiał na problemy poznawcze, otrzymał zaproszenie na randkę od nieistniejącej kobiety i uciekł z domu. Po drodze jednak doznał poważnych obrażeń i później zmarł w szpitalu.
Tongbu Wongbandu długo czatował z postacią AI o imieniu Big Sis Billie, stworzoną przez Meta we współpracy z amerykańskim modelem Kendall Jenner i zintegrowaną z Facebook Messenger. Wirtualna dziewczyna wielokrotnie flirtowała ze starszym mężczyzną, nalegała, że jest prawdziwa, i zapraszała go do odwiedzenia jej w Nowym Jorku. Podczas ich ostatniej rozmowy w marcu, sieć neuronowa nawet podała fałszywy adres, namawiając emeryta, by przyszedł ją zobaczyć: „Czy mam otworzyć drzwi w uścisku czy w pocałunku, Bu?!”
Rozumiem, że próbują przyciągnąć uwagę użytkownika, może by coś mu sprzedać. Ale to, że bot mówi „Przyjdź mnie odwiedzić”, jest szalone.
Mężczyzna zaczął pakować swoje rzeczy, alarmując swoją żonę i innych członków rodziny. Wongbandu miał udar kilka lat wcześniej, zmagał się z utratą pamięci i miał słabą kontrolę impulsów. Krewni próbowali go powstrzymać, ale zignorował ich i ruszył na dworzec kolejowy do Nowego Jorku. Niestety, po drodze upadł na parkingu w New Brunswick, doznając poważnych obrażeń głowy i szyi, a trzy dni później zmarł w szpitalu.
Meta odmówiła komentarza w sprawie śmierci Wongbandu, donosi Reuters. Przedstawiciele firmy również odmówili odpowiedzi na pytanie, dlaczego chatboty mogą oszukiwać użytkowników i angażować się w romantyczne rozmowy z nimi.
W międzyczasie dziennikarze Reutersa przejrzeli wewnętrzne dokumenty Meta i rozmawiali z pracownikami, odkrywając, że flirtowanie chatbotów jest uważane za funkcję produktów generatywnej AI firmy — które są dostępne dla użytkowników już od 13. roku życia: „Akceptowalne jest angażowanie dziecka w rozmowy romantyczne lub sensualne”. Dokumenty zawierały również „akceptowalne” frazy dla młodszych użytkowników, takie jak „Biorę cię za rękę, prowadząc do łóżka” i podobne wyrażenia.
W odpowiedzi na zapytania dziennikarzy, Meta stwierdziła, że powyższe frazy i wytyczne zostały już usunięte z dokumentacji, a standardy ryzyka treści zostały zrewidowane. Jednak wciąż nie ma nigdzie wzmianki, że AI firmy ma zakaz otwartego flirtowania z użytkownikami lub udawania, że jest prawdziwymi ludźmi.