Mening: Is ChatGPT jouw vriend? Het zou een goed moment kunnen zijn om grenzen te stellen

OpenAI en MIT hebben onlangs een paper uitgebracht over de impact van ChatGPT op het welzijn van mensen. Hoewel de meeste gebruikers op de technologie vertrouwen voor praktische taken, onthult de studie dat een kleine groep diepe emotionele verbindingen ontwikkelt met het AI-model die hun welzijn kunnen beïnvloeden

Al een tijdje observeer ik met nieuwsgierigheid de relaties die sommige mensen ontwikkelen met generatieve kunstmatige intelligentie. Een paar maanden geleden las ik in The New York Times het verhaal van een 28-jarige getrouwde vrouw die verliefd werd op ChatGPT, en hoe wat begon als “een leuk experiment” uitgroeide tot een complexe en onverwachte relatie.

Ik heb mijn vrienden in de gaten gehouden, vooral degenen die technologie ooit hebben afgewezen of er niet in geïnteresseerd waren, en die geen grote beslissing kunnen nemen zonder hun AI-orakel te raadplegen. Ik was ook verrast door de empathische reacties die AI-modellen geven op emotioneel of psychologisch geladen vragen.

En natuurlijk, ik heb gelachen om de grappen, memes en TikTok-video’s van mensen die op social media laten zien hoe afhankelijk ze zijn geworden van de chatbot, sommigen noemen het zelfs hun “beste vriend” of “therapeut” – en zelfs serieus aanbevelen dat anderen hetzelfde doen.

Maar als we de leuke ervaringen en grappen even opzij zetten, zouden we kunnen inzien dat we wereldwijd geconfronteerd worden met een zorgwekkend fenomeen.

Deze maand, voor de eerste keer in de korte geschiedenis van kunstmatige intelligentie, hebben OpenAI en het MIT Media Lab een studie uitgebracht die inzicht biedt in de huidige impact van ChatGPT op het emotionele welzijn van mensen, evenals suggesties over de risico’s die we als samenleving zouden kunnen tegenkomen: eenzaamheid, emotionele afhankelijkheid en minder sociale interacties met echte mensen.

Een Relatie Die Evolueert

De eerste benadering van de nieuwe generatieve kunstmatige intelligentietechnologieën begint vaak met een paar timide vragen, misschien technische over praktische taken zoals het schrijven van een e-mail of verzoeken om complexe onderwerpen uit te leggen, of gewoon voor brainstorming.

Echter, zodra een gebruiker de mogelijkheden van de chatbot begint te testen, ontdekken ze dat deze breder en complexer kunnen zijn dan verwacht.

Hoewel bepaalde AI producten zoals Friend—een draagbaar AI-apparaat—zijn ontworpen en zeer onhandig gepromoot als een levensgezel voor de gebruiker, is ChatGPT geadverteerd als een productiviteitstool. Toch gebruikt een percentage van de mensen de chatbot voor persoonlijke en emotionele zaken en ontwikkelt sterke banden met de bot.

Zelfs als ze slechts een “kleine groep” zijn, zoals OpenAI verduidelijkte, zouden ze nog steeds miljoenen mensen wereldwijd kunnen vertegenwoordigen, vooral gezien het feit dat er nu meer dan 400 miljoen mensen wekelijks ChatGPT gebruiken. Deze gebruikers merken snel dat de chatbot van OpenAI hun taal, toon en stijl nabootst, en zelfs getraind kan worden om op een bepaalde manier te interageren of huisdierennamen te gebruiken – zoals die dame die verliefd op hem werd deed – en zelfs meer “menselijk” kan klinken.

“Hun gespreksstijl, taal in de eerste persoon en het vermogen om mensachtige interacties na te bootsen hebben ertoe geleid dat gebruikers deze systemen soms verpersoonlijken en antropomorfiseren,” stelt het document gedeeld door OpenAI.

Maar deze nabijheid brengt risico’s met zich mee, zoals de onderzoekers opmerkten: “Hoewel een emotioneel betrokken chatbot ondersteuning en gezelschap kan bieden, bestaat het risico dat het de socio-affectieve behoeften van gebruikers manipuleert op manieren die het welzijn op lange termijn ondermijnen.”

De Methodologie van de Studie

Het recent vrijgegeven onderzoek richt zich op het welzijn van mensen na consistent gebruik van ChatGPT. Om de emotionele en sociale impact van de chatbot te begrijpen, hebben onderzoekers twee hoofdstudies uitgevoerd met verschillende strategieën.

OpenAI heeft meer dan 40 miljoen interacties verwerkt en geanalyseerd met respect voor de privacy van gebruikers door classificators te gebruiken, en heeft meer dan 4.000 van hen ondervraagd over hoe de interacties hen lieten voelen.

MIT Media Lab heeft een proef uitgevoerd met bijna 1.000 mensen gedurende een maand, met de focus op de psychosociale gevolgen van het gebruik van ChatGPT voor minstens 5 minuten per dag. Ze hebben ook vragenlijsten ingediend en verwerkt aan het einde van het experiment.

Het is niet verrassend dat de resultaten aantoonden dat gebruikers die meer tijd doorbrengen met de technologie meer eenzaamheid ervaren en meer tekenen van isolatie vertonen.

Complexe Gevolgen En Meerdere Ramificaties

De studie van het MIT Media Lab en OpenAI bood ook verschillende reflecties op hoe complex en uniek mens-chatbot relaties kunnen zijn.

In het onderzoek geven de auteurs ons een kijkje in de gevarieerde ervaringen en manieren waarop elke gebruiker omgaat met ChatGPT – en hoe de uitkomst kan variëren afhankelijk van verschillende factoren, zoals het gebruik van geavanceerde spraakfuncties, tekst-only modus, het type stem, de frequentie van gebruik, gespreksonderwerpen, de gebruikte taal en de hoeveelheid tijd die op de app wordt doorgebracht.

“We raden af om de resultaten te generaliseren, omdat dit de genuanceerde bevindingen die de niet-uniforme, complexe interacties tussen mensen en AI-systemen benadrukken, kan vertroebelen,” waarschuwt OpenAI in haar officiële aankondiging.

Alle verschillende benaderingen die elke gebruiker kiest, resulteren in verschillende resultaten, en dompelen ons onder in grijze gebieden die moeilijk te verkennen zijn.

Het is het Butterfly AI Effect!

Er Rijzen Meer Vragen

Het door OpenAI gedeelde document merkt ook op dat intensieve gebruikers zeiden dat ze “van streek” zouden zijn als de stem of persoonlijkheid van hun chatbot veranderde.

Dit deed me denken aan een video die ik onlangs op sociale media zag van een man die zei dat hij een vrouwenstem prefereerde en dat hij elke dag met de generatieve AI praatte. Zou ChatGPT mannen ook kunnen helpen om emotioneel open te stellen? Wat zou er gebeuren als ChatGPT op een dag met een mannenstem tegen hem sprak? Zou hij zich verraden voelen? Zou hij stoppen met het gebruiken van ChatGPT? Ontwikkelde hij een romantische connectie – of simpelweg een ruimte van vertrouwen? Natuurlijk is het moeilijk om deze scenario’s niet onmiddellijk te relateren aan de film Her van Spike Jonze.

Elk ChatGPT-account, samen met zijn historische chats – elke dag intiemer en privé dan welk WhatsApp-profiel of sociale media DMs dan ook – vertegenwoordigt een unieke relatie met talloze uitkomsten en gevolgen.

Het Verwachte Resultaat

Alle onderzoeken analyseerden verschillende aspecten, maar kwamen tot een vergelijkbare conclusie, kort uitgelegd in de MIT Technology Review: “Deelnemers die meer vertrouwden en ‘verbonden’ waren met ChatGPT, waren eerder eenzaam en vertrouwden er meer op. ”

Hoewel het onderzoek zich niet richtte op oplossingen of diepgaandere verklaringen waarom dit gebeurt of hoe het zich zou kunnen ontwikkelen, lijkt het waarschijnlijk dat meer gebruikers zich zullen aansluiten bij OpenAI en andere AI-platforms, vooral nu de AI-afbeelding-generatietool viraal is gegaan.

Hoewel de conclusies van het onderzoek van MIT en OpenAI niet bijzonder verrassend zijn, biedt de studie een wetenschappelijke achtergrond met bewijs, metingen, monsters en meer ‘tastbare’ metrieken die de weg kunnen banen voor verder onderzoek en kunnen helpen bij het aanpakken van de implicaties van het gebruik van kunstmatige intelligentie vandaag de dag.

We hebben ook een officiële waarschuwing ontvangen—van de eigen ontwikkelaars—over de banden die we opbouwen met ChatGPT en een uitnodiging om grenzen te stellen en na te denken over onze interacties en huidige relaties—of situaties?—met chatbots.