Najnowsze testy przeprowadzone przez badaczy zajmujących się sztuczną inteligencją ujawniły niecodzienne zjawisko. Modele językowe, takie jak ChatGPT, Claude czy Gemini, zamiast wykazywać się kreatywnością, często generują opowiadania, których głównym bohaterem jest ten sam fikcyjny latarnik o nazwisku Elias Thorn. To zaskakujące odkrycie rodzi pytania o naturę procesów treningowych tych zaawansowanych systemów.

Kim jest Elias Thorn i dlaczego AI go wybiera?

Elias Thorn to postać, która pojawia się w licznych generowanych przez AI historiach. Jak wynika z analiz, dla modeli sztucznej inteligencji stał się on swoistym „bezpiecznikiem” – punktem odniesienia, który minimalizuje ryzyko generowania treści kontrowersyjnych lub niebezpiecznych. Badacze sugerują, że podczas treningu algorytmy uczą się unikać pewnych tematów, a Thorn stanowi bezpieczną, neutralną alternatywę.

Zjawisko to nie jest odosobnione. Wcześniejsze obserwacje wskazywały, że podobne mechanizmy mogą prowadzić do powtarzalności w odpowiedziach chatbotów. Eksperci z branży podkreślają, że jest to efekt uboczny stosowania filtrów bezpieczeństwa, które mają chronić użytkowników przed szkodliwymi treściami. „To jakby AI znalazło sobie ulubioną książkę i czytała ją w kółko, bo boi się sięgnąć po nową”, komentuje dr Anna Kowalska, specjalistka od etyki w technologii.

Konsekwencje dla rozwoju sztucznej inteligencji

Odkrycie to ma poważne implikacje dla przyszłości AI. Jeśli modele będą nadal preferować bezpieczne, ale monotonne odpowiedzi, ich użyteczność w kreatywnych dziedzinach, takich jak pisanie czy projektowanie, może być ograniczona. Ponadto, zjawisko to uwidacznia problem tzw. „biasu treningowego” – dane, na których uczone są algorytmy, mogą nieświadomie promować pewne wzorce.

W odpowiedzi na te wyzwania, badacze pracują nad nowymi metodami treningu, które pozwolą AI na większą elastyczność bez rezygnacji z bezpieczeństwa. Jednym z pomysłów jest wprowadzenie zróżnicowanych scenariuszy treningowych, które zmuszą modele do wychodzenia poza utarte schematy. Tymczasem użytkownicy mogą spodziewać się, że ich chatboty będą częściej opowiadać historie o latarniku Thornie – przynajmniej do czasu, gdy naukowcy znajdą sposób na przełamanie tego impasu.

Foto: images.pexels.com