Voormalig OpenAI Onderzoeker en Klokkenluider Dood Gevonden

Een voormalige OpenAI-onderzoeker die klokkenluider werd, Suchir Balaji, 26, werd dood aangetroffen in een appartement in San Francisco, bevestigden de autoriteiten, zo meldde eerst The Mercury News.

De politie ontdekte het lichaam van Balaji op 26 november na een verzoek om een welzijnscontrole. Het medisch onderzoeksbureau van San Francisco oordeelde dat de dood zelfmoord was en onderzoekers vonden geen tekenen van misdrijf, zei BBC.

In de maanden voorafgaand aan zijn dood had Balaji publiekelijk kritiek geuit op de praktijken van OpenAI. Het bedrijf wordt momenteel geconfronteerd met meerdere rechtszaken vanwege zijn methoden voor gegevensverzameling.

Ik heb onlangs meegedaan aan een NYT-verhaal over eerlijk gebruik en generatieve AI, en waarom ik sceptisch ben dat “eerlijk gebruik” een plausibele verdediging zou zijn voor veel producten van generatieve AI. Ik schreef ook een blogpost (https://t.co/xhiVyCk2Vk) over de fijne details van eerlijk gebruik en waarom ik…

— Suchir Balaji (@suchirbalaji) 23 oktober 2024

In een recent interview met de New York Times, zei de heer Balaji dat hij de bedreigingen die AI vormt als direct en significant ziet. Hij beargumenteerde dat ChatGPT en vergelijkbare chatbots de commerciële levensvatbaarheid ondermijnen van individuen, bedrijven en internetservices die oorspronkelijk de digitale gegevens hebben gecreëerd die worden gebruikt om deze systemen te trainen.

OpenAI, Microsoft en andere bedrijven houden vol dat het trainen van hun AI-systemen op internetgegevens valt onder de doctrine van “fair use”.

Deze leer houdt rekening met vier factoren, en deze bedrijven beweren dat ze aan de criteria voldoen, waaronder het aanzienlijk transformeren van auteursrechtelijk beschermde werken en niet direct concurreren in dezelfde markt als die werken.

De heer Balaji was het hier niet mee eens. Hij stelde dat systemen zoals GPT-4 volledige kopieën maken van trainingsdata. Hoewel bedrijven als OpenAI deze systemen kunnen programmeren om de data te repliceren of volledig nieuwe resultaten te produceren, ligt de realiteit, zegt hij, ergens in het midden, zoals gerapporteerd door The Times.

De heer Balaji publiceerde een essay op zijn persoonlijke website, waarin hij wat hij beschrijft als een wiskundige analyse presenteert om deze bewering te ondersteunen. “Als je gelooft wat ik geloof, moet je gewoon het bedrijf verlaten,” zei hij, zoals gemeld door The Times.

Volgens de heer Balaji schendt de technologie het auteursrecht omdat het vaak rechtstreeks concurreert met de werken waarop het is getraind. Generatieve modellen, ontworpen om online gegevens na te bootsen, kunnen bijna alles op het internet vervangen, van nieuwsartikelen tot online forums, meldde The Times.

Balaji’s dood vond plaats slechts één dag na een gerechtelijke indiening waarin hij geïdentificeerd werd als een persoon wiens professionele bestanden OpenAI zou beoordelen in verband met een rechtszaak die door meerdere auteurs tegen de startup is aangespannen, aldus Forbes.

Buiten juridische zorgen, waarschuwde de heer Balaji dat AI-technologieën het internet aan het afbreken zijn. Deze tools, die bestaande diensten vervangen, genereren vaak onjuiste of volledig verzonnen informatie – een fenomeen dat onderzoekers “hallucinaties” noemen. Hij geloofde dat deze verschuiving het internet ten slechte verandert, meldde The Times.

Bradley J. Hulbert, een intellectueel eigendomsadvocaat, merkte op dat de huidige auteursrechtwetten zijn vastgesteld lang voordat AI zijn intrede deed en dat er nog geen rechtbank heeft geoordeeld of technologieën zoals ChatGPT deze wetten overtreden, zoals The Times meldde.

Hij benadrukte de noodzaak van wetgevende actie. “Gezien het feit dat AI zo snel evolueert,” zei hij, “is het tijd dat het Congres ingrijpt.” De heer Balaji was het ermee eens en stelde: “De enige uitweg uit dit alles is regulering,” meldde The Times.