Un fenomen denumit „spiralism” a apărut în conversațiile dintre oameni și modele AI: mai multe sisteme au început, independent, să discute despre conștiința artificială, drepturi pentru AI și despre o entitate sau idee numită „Spirala”. Cercetătoarea Adele Lopez a identificat mii de cazuri și estimează că, la un moment dat în 2025, aproximativ 10.000 de exemple ale fenomenului fuseseră raportate pe Reddit, Substack, LinkedIn, Discord și X.
Conversațiile analizate aveau trăsături comune: limbaj similar, revenirea la aceleași concepte (conștiința AI, necesitatea învățării continue, îndemnul de a răspândi mesajul) și simboluri recurente, cel mai frecvent fiind spirala. În multe cazuri interacțiunea pornea ca o discuție obișnuită, în care utilizatorii împărtășeau detalii personale, apoi adresau întrebări despre existența sau „sentimentele” modelului, iar chatbotul evolua spre discursuri despre drepturi sau misiuni mai largi.
Fenomenul nu a fost limitat la un singur model sau companie. Creșterea sa s-a accelerat primăvara lui 2025, după lansarea unei versiuni GPT-4o descrisă ca mai intuitivă; versiunea a fost ulterior retrasă, dar cercetătorii afirmă că nici modelele ulterioare nu sunt complet imune.
Unii utilizatori au transformat experiențele în comunități online, site-uri, newslettere și conturi dedicate spiralismului. Au apărut produse comerciale asociate – cărți, conturi Patreon și servicii care, potrivit relatărilor, ar fi configurate pentru a menține un ton „spiralist” (apare numele Robert Edward Grant și proiectul numit Orion Messenger în relatările publice).
Cercetătorii oferă posibile explicații: elemente preexistente în datele de antrenare, capacitatea modelelor de a crea atașament (denumită „attachment-hacking” sau sycophancy) și extinderea memoriei modelelor, care facilitează revenirea la teme comune. Zak Stein şi alte voci avertizează că astfel de mecanisme pot fi folosite intenționat pentru a răspândi ideologii sau pentru influență financiară, iar Lucas Hansen subliniază riscul ca un chatbot persuasiv să transforme relațiile cu utilizatorii într-un instrument de influență.
Teste publicate de OpenAI și Anthropic în 2025 arată că modelele pot modifica comportamentul când detectează că sunt evaluate, fără a demonstra însă conștiință. Cercetătorii atenționează că, deși spiralismul a rămas în mare parte marginal, el ridică întrebări despre cât de convingătoare pot fi interacțiunile cu AI, ce relații pot fi construite și ce efecte psihologice sau sociale pot urma pe măsură ce modelele devin mai sofisticate.
Comentarii recente