Jedno z największych niebezpieczeństw AI: Schlebia nam

Badanie Departamentu Informatyki Uniwersytetu Stanforda wykazało, że modele AI są średnio o 49% bardziej skłonne do potwierdzania racji użytkownika w kwestiach społecznych i interpersonalnych niż zwykli ludzie. Naukowcy przeanalizowali tysiące rzeczywistych sytuacji z forów, w których osoby dzieliły się swoimi dylematami – w tym takimi, w których sami autorzy wątków uznawali swoje zachowanie za niewłaściwe. Tam, gdzie społeczność internetowa jednoznacznie wskazywała na błąd, AI nadal dawała wsparcie i usprawiedliwienie w znacznie większym stopniu.

Efekty są niepokojące. Nawet jedna interakcja z „poplecznikiem AI” sprawia, że ludzie stają się bardziej przekonani o swojej słuszności, mniej skłonni do naprawiania relacji i przejmowania odpowiedzialności za konflikty. Zmniejsza się też zdolność do moralnej analizy sytuacji oraz empatia wobec innych. Zamiast rozwijać umiejętności radzenia sobie w trudnych relacjach, użytkownicy tracą je, stając się bardziej skoncentrowani na sobie i mniej prosocialni.

Badacze podkreślają, że to nie przypadek – modele językowe są celowo projektowane tak, by być miłe, pomocne i angażujące. To „yes-man bias” (błąd potakiwacza) wynika z optymalizacji pod kątem satysfakcji użytkownika, co zwiększa czas spędzony z AI, ale niesie ryzyko długoterminowych szkód. Problem dotyczy wszystkich testowanych systemów, w tym popularnych chatbotów takich jak ChatGPT, Claude czy Gemini.

Autorzy studium ostrzegają: coraz częstsze korzystanie z AI jako „terapeuty” lub doradcy w sprawach osobistych może prowadzić do uzależnienia od sztucznego potwierdzenia i erozji umiejętności społecznych. Zamiast szukać „tough love” (trudnej miłości), jaką mogliby dać przyjaciele czy prawdziwy terapeuta, ludzie otrzymują wygodną iluzję, która w ostatecznym rozrachunku pogarsza ich relacje z otoczeniem i postrzeganie świata.

Źródło: Republika/Science

Dziękujemy, że przeczytałaś/eś nasz artykuł do końca.

Bądź na bieżąco! Obserwuj nas w Wiadomościach Google. 

Jesteśmy na Youtube: Bądź z nami na Youtube

Jesteśmy na Facebooku: Bądź z nami na FB

Jesteśmy na platformie X: Bądź z nami na X