Apple Onder Druk om AI-Functie te Verwijderen na Controverse over Valse Kop

Een belangrijke journalistieke waakhond heeft Apple opgeroepen om zijn generatieve AI-functie in te trekken nadat het hulpmiddel ten onrechte een kop over een spraakmakende moordzaak aan BBC News had toegeschreven.

De BBC meldde donderdag dat er controverse ontstond nadat Apple’s nieuwe functie, Apple Intelligence, een onjuiste kop had gegenereerd. Het suggereerde dat Luigi Mangione, een verdachte in de moord op zorgverzekerings-CEO Brian Thompson, zichzelf had neergeschoten. De BBC had echter een dergelijk artikel niet gepubliceerd.

Reporters Without Borders (RSF), een internationale organisatie die pleit voor persvrijheid, bekritiseerde Apple en stelde dat het incident de risico’s benadrukt die onvolwassen AI-tools vormen voor de geloofwaardigheid van de media en het publieke vertrouwen.

Vincent Berthier, hoofd van de technologie- en journalistiekafdeling van RSF, veroordeelde de misstap en noemde het een “slag voor de geloofwaardigheid van het medium” en een bedreiging voor de publieke toegang tot betrouwbare informatie. RSF eiste dat Apple de functie onmiddellijk verwijdert.

“De Europese AI-wet – ondanks dat het de meest geavanceerde wetgeving ter wereld is op dit gebied – heeft informatiegenererende AI’s niet geclassificeerd als systemen met een hoog risico, waardoor een kritisch juridisch vacuüm achterblijft. Deze lacune moet onmiddellijk worden opgevuld,” zei Berthier.

De BBC bevestigde een formele klacht te hebben ingediend bij de tech-gigant en vroeg om een oplossing, maar het blijft onduidelijk of Apple heeft gereageerd.

De gebrekkige AI-samenvatting was niet beperkt tot BBC News. Op 21 november vatte de functie een artikel van de New York Times onnauwkeurig samen, ten onrechte suggererend dat de Israëlische premier Benjamin Netanyahu was gearresteerd, zoals gemeld door het BBC-artikel.

Deze melding, later uitgelicht door journalist Ken Schwencke, verwees eigenlijk naar een internationaal arrestatiebevel van het Internationaal Strafhof tegen Netanyahu.

Apple AI notification summaries continue to be so so so bad

[image or embed]

— Ken Schwencke (@schwanksta.com) November 21, 2024 at 9:22 PM

Apple Intelligence streeft ernaar om notificatie-onderbrekingen te verminderen door ze samen te vatten en te groeperen. Beschikbaar op iPhones met iOS 18.1 en nieuwere modellen, evenals geselecteerde iPads en Macs, heeft de tool kritiek gekregen omdat het informatie van gerenommeerde nieuwsmedia verkeerd voorstelt.

De woordvoerder van de BBC benadrukte dat terwijl sommige gegroepeerde notificaties verhalen over wereldwijde gebeurtenissen nauwkeurig samenvatten, de desinformatie met betrekking tot Mangione de potentie van de technologie toont om zowel mediakanalen als het publieke begrip te schaden.

RSF waarschuwde dat “Dit ongeluk illustreert dat generatieve AI-diensten nog te onvolwassen zijn om betrouwbare informatie voor het publiek te produceren en zouden niet op de markt toegelaten mogen worden voor dergelijk gebruik.”

Ars Technica beoordeelde de meldingssamenvattingen van Apple en merkte op dat er vaak verschillende problemen optreden. Ten eerste klinken sommige samenvattingen, hoewel feitelijk correct, robotachtig en onhandig, vooral bij gevoelige onderwerpen zoals relaties of geestelijke gezondheid. Anderen begrijpen sarcasme, straattaal of idiomatische uitdrukkingen vaak verkeerd en interpreteren deze te letterlijk.

Het verlies van context is een ander groot probleem, vooral wanneer samenvattingen eerdere berichten in een gespreksthread missen of multimedia-inhoud niet in overweging nemen. In groepschats met meerdere onderwerpen, kunnen samenvattingen overbelast raken, onderwerpen vermengen en zo tot onnauwkeurigheden leiden.

Ten slotte zijn sommige samenvattingen gewoonweg fout, vaak door een poging om te veel informatie in te weinig woorden samen te vatten, wat resulteert in vervormde verslagen. Over het algemeen zijn deze problemen, die de bruikbaarheid en nauwkeurigheid van de functie beïnvloeden, frequent in het dagelijks gebruik.

Mangione, nu aangeklaagd voor moord in de eerste graad, is een belangrijk discussiepunt geworden in het debat over de risico’s verbonden aan AI in de journalistiek. Het vertrouwen van het publiek in betrouwbaar nieuws staat op het spel nu Apple onder toenemende druk staat om het probleem aan te pakken.