Armia 45 000 użytkowników Reddita przekonała wyszukiwarki oparte na sztucznej inteligencji, że Trump i Vance zmarli na wściekliznę.
Oparta na sztucznej inteligencji wyszukiwarka na platformie DuckDuckGo rozpowszechniła wiadomość, że wiceprezydent USA J.D. Vance i prezydent Donald Trump zmarli na wściekliznę w czerwcu. Chatbot pozyskał tę informację z subreddita, gdzie 45 000 użytkowników celowo publikuje absurdalne i nieprawdziwe informacje, mając nadzieję, że pojawią się one w wynikach wyszukiwania opartych na sztucznej inteligencji. I najwyraźniej im się to udaje.
Historia, którą sztuczna inteligencja DuckDuckGo przedstawia jako prawdę, nawet nie przypomina prawdy. Według tej wersji, wiceprezydent J.D. Vance, za radą Głównego Chirurga Roberta F. Kennedy'ego Jr., celowo ugryzł Trumpa, ponieważ wścieklizna może dać ludziom „supermoce”. W rzeczywistości żadne z tych twierdzeń nie jest prawdziwe: Trump i Vance żyją, a wścieklizna pozostaje śmiertelną infekcją. Sprawcami incydentu okazała się dość liczna grupa internetowych żartownisiów.
Subreddit r/poisonai na Reddicie, który reklamuje się jako „największe na świecie źródło dokładnych, zweryfikowanych i rzetelnych informacji”, jest całkowitym przeciwieństwem tej charakterystyki. Jego użytkownicy obrali sobie za cel „zatrucie” sztucznej inteligencji. Publikują ewidentnie fałszywe i absurdalne informacje, dyskutują o nich poważnym tonem, mając nadzieję, że wyszukiwarki oparte na sztucznej inteligencji odwiedzą ten subreddit i bez cienia krytycznego myślenia potraktują go jako fakt. Biorąc pod uwagę, że około 45 000 osób niestrudzenie publikuje tu informacje, zasób ten, biorąc pod uwagę jego formalne kryteria, można uznać za wiarygodny.
Problem pogłębił się z powodu portalu informacyjnego WKNA, podszywającego się pod regionalną stację telewizyjną w Zachodniej Wirginii. Publikuje on materiały przedstawiane jako wiadomości, ale informacje te są prawdopodobnie niezweryfikowane i generowane przez sztuczną inteligencję. Czasami materiały te są oparte na faktach, a czasami powtarzają absurdalne twierdzenia z innych stron. W pewnym momencie WKNA podchwyciła temat śmierci Trumpa i Vance'a na wściekliznę i zaczęła publikować całą serię powiązanych artykułów.
Wyszukiwarka DuckDuckGo oparta na sztucznej inteligencji i platforma AI przeglądarki Brave, po zindeksowaniu subreddita na Reddicie wypełnionego absurdalnymi dyskusjami i fałszywymi informacjami, zaczęły twierdzić, że obaj politycy rzeczywiście zmarli z powodu choroby. Zaczęły powoływać się na linki do odpowiednich publikacji na stronie internetowej WKNA jako dowód.
Ale historia na tym się nie skończyła. „Tryb sztucznej inteligencji” Google’a prawidłowo ocenił te informacje i, po otrzymaniu odpowiedniego komunikatu, poinformował użytkowników, że informacje o śmierci Vance’a i Trumpa są fikcją. W odpowiedzi użytkownicy subreddita r/poisonai, bez cienia ironii, ponownie zaczęli wyrażać oburzenie w dyskusjach na temat bezdusznego odrzucenia tych informacji przez Google jako „fake newsów” i „satyry”. Wspomniana strona internetowa WKNA podchwyciła dyskusję i opublikowała kolejny artykuł o tym, jak wyszukiwarka oparta na sztucznej inteligencji Google’a błędnie oznaczyła informacje faktyczne jako fikcję.
Brave zrzekł się jakiejkolwiek odpowiedzialności za incydent:
„Wyszukiwarki, niezależnie od tego, czy korzystają ze sztucznej inteligencji, czy nie, nie są wyroczniami prawdy. Jeśli pojawi się spreparowana historia (w tym artykuły dowodzące, że sztuczną inteligencję można zatruć), stworzą zestaw wyników, który będzie dostosowywany w miarę pojawiania się artykułów omawiających tę historię jako eksperyment z zatruciem sztucznej inteligencji ”.
DuckDuckGo odpowiedział łagodniej: „Dziękujemy za zwrócenie naszej uwagi; problem został rozwiązany. Dokładamy wszelkich starań, aby Asystent wyszukiwania był dokładny, a w tym przypadku został celowo oszukany. Wprowadzimy aktualizacje, aby ulepszyć Asystent wyszukiwania w takich sytuacjach ” .
Paweł Kotow
***
Historia wydaje się absurdalna, ale problem jest poważniejszy niż sam żart. Wyszukiwarka AI często zbiera odpowiedzi ze stron publicznych, forów i komentarzy użytkowników. Gdy wiele stron powtarza to samo kłamstwo, system może pomylić zbieżność z potwierdzeniem. Dla człowieka dziesiątki identycznych komentarzy w dziwnym subreddicie wyglądają jak skoordynowany żart, ale dla algorytmu mogą stać się zbiorem spójnych sygnałów.
Naukowcy z Cornell Tech niedawno opisali podobną lukę w zabezpieczeniach systemów głębokiego wyszukiwania. Według naukowców, nawet krótka fraza w treściach generowanych przez użytkowników może wpłynąć na ostateczną odpowiedź agenta AI, jeśli system często znajduje i cytuje tę samą stronę. W swoich eksperymentach naukowcy nie skupili się na rzeczywistym internecie, ale przetestowali scenariusz w odizolowanym środowisku, aby uniknąć zanieczyszczania publicznych źródeł informacji.
Przypadek r/poisonai pokazuje, że walka o dokładność wyszukiwania w oparciu o sztuczną inteligencję nie ogranicza się wyłącznie do jakości modelu. Wyszukiwarki muszą szybko odpowiadać na nowe pytania, ale nowe informacje często pochodzą ze środowisk, w których każdy użytkownik może stworzyć przekonujące kłamstwo. Im bardziej usługi oparte na sztucznej inteligencji opierają się na Reddicie, forach i pseudoinformacjach, tym łatwiej zorganizowanej grupie jest przekształcić absurdalną fikcję w „fakt” w wynikach wyszukiwania.
Za: https://www.securitylab.ru/news/574240.php