Google DeepMind lanceert open-source watermerktool om AI-gegenereerde tekst te helpen detecteren

Google DeepMind lanceerde deze woensdag een open-source watermerktool genaamd SynthID-Text om AI-gegenereerde tekst te detecteren. De tool is gratis beschikbaar voor bedrijven en ontwikkelaars en werkt door onzichtbare watermerken – ondetecteerbaar voor het menselijk oog – in te bedden in de tekst tijdens de generatie, door de waarschijnlijkheden van woorden te veranderen.

“Hier beschrijven we SynthID-Text, een productieklare tekstwatermerkschema dat de tekstkwaliteit behoudt en een hoge detectienauwkeurigheid mogelijk maakt, met minimale latentie overhead,” stelt de samenvatting van het onderzoek gepubliceerd in Nature. “Om watermerken op schaal mogelijk te maken, ontwikkelen we een algoritme dat watermerken integreert met speculatieve sampling, een efficiëntietechniek die vaak wordt gebruikt in productiesystemen.”

Volgens de MIT Technology Review heeft het AI-onderzoekslab van de technologiegigant de SynthID-technologie ontwikkeld om meerdere AI-watermerkhulpmiddelen te creëren die nu AI-gegenereerde tekst, muziek, video en afbeeldingen kunnen herkennen. Google DeepMind deelde een video waarin wordt uitgelegd hoe de technologie werkt op verschillende soorten media.

Here’s how SynthID watermarks AI-generated content across modalities. ↓ pic.twitter.com/CVxgP3bnt2

— Google DeepMind (@GoogleDeepMind) 23 oktober 2024

SynthID is beschikbaar via het Google Responsible Generative AI Toolkit van het bedrijf, en onderzoekers werken samen met Hugging Face – een samenwerkingsplatform voor ontwikkelaars dat andere open-source projecten host, zoals LeRobot’s handleiding voor het bouwen van AI-gestuurde robots thuis – om het op hun site te delen.

“Nu zullen andere [generatieve] AI-ontwikkelaars in staat zijn om deze technologie te gebruiken om hen te helpen detecteren of tekstoutputs afkomstig zijn van hun eigen [grote taalmodellen], waardoor het voor meer ontwikkelaars makkelijker wordt om op een verantwoorde manier AI te bouwen,” zei Pushmeet Kohli, de vicepresident van onderzoek bij Google DeepMind, tegen MIT Technology Review.

SynthID is getest in Google’s Gemini-producten, en miljoenen gebruikers konden geen onderscheid maken tussen watermerk- en niet-watermerk-content. Echter, onderzoekers erkennen dat het beperkingen heeft als de tekst is bewerkt of vertaald, maar blijven optimistisch en geloven dat het hulpmiddel kan helpen om misinformatie te bestrijden en de veiligheid van AI te verbeteren.

Verschillende techbedrijven hebben de afgelopen maanden AI-labelstrategieën aangekondigd. Meta kondigde in februari een systeem aan om AI-content te identificeren op Instagram, Facebook en Threads, Google verplichtte gebruikers om AI-content te labelen in maart, en Tiktok voegde labels toe aan AI-gegenereerde content in mei.