Apple werkt AI-nieuwsalerts bij na kritiek op onjuistheden

Apple zal de AI-gegenereerde nieuwsalertsfunctie bijwerken die onjuistheden verspreidt.

Veel mensen dringen erop aan dat Apple zijn nieuwe AI-functie, die onnauwkeurige nieuwsalerts voor iPhone-gebruikers genereert, volledig annuleert. Maar Apple kiest ervoor om de technologie bij te werken in plaats van deze te pauzeren.

De Apple Intelligence-functie, die eind vorig jaar werd gelanceerd, liet al binnen enkele dagen zien dat het niet in staat is om op een consistente en betrouwbare manier correcte informatie te produceren. Aanvankelijk vatte een van de meldingen een artikel van The New York Times verkeerd samen en meldde dat Benjamin Netanyahu, de premier van Israël, was gearresteerd, wat niet het geval was.

Slechts twee dagen nadat de AI-tool op 11 december in het Verenigd Koninkrijk was geactiveerd, klaagde de BBC, de Britse publieke omroep, bij Apple dat een AI-gegenereerde samenvatting van hun kop onterecht aan sommige lezers meldde dat Luigi Mangione, de persoon die werd beschuldigd van het doden van UnitedHealthcare CEO Brian Thompson, zichzelf had neergeschoten. De BBC nam contact op met Apple om hun zorgen te uiten, en de organisatie Reporters Without Borders (RSF) riep het bedrijf op om de technologie volledig te verwijderen.

De BBC nam contact op met Apple om hun zorgen te uiten, en de organisatie Reporters Without Borders (RSF) riep het bedrijf op om de technologie volledig te verwijderen. Deze meldingssamenvattingen groeperen en herschrijven previews van meerdere recente app-meldingen tot één waarschuwing op het vergrendelscherm van gebruikers. “AIs zijn waarschijnlijkheidsmachines, en feiten kunnen niet worden bepaald door een gokspel.

RSF roept Apple op om verantwoordelijk te handelen door deze functie te verwijderen,” zei Vincent Berthier, hoofd van de technologie- en journalistiekafdeling van RSF. “De geautomatiseerde productie van onjuiste informatie die wordt toegeschreven aan een media-outlet, schaadt de geloofwaardigheid van die outlet en vormt een gevaar voor het recht van het publiek op betrouwbare informatie over actuele zaken.”

Apple koos destijds om niet te reageren, en, zoals te verwachten was, bleef het probleem bestaan. Vorige week nog genereerde de AI van het bedrijf nieuwsalerts waarin ten onrechte werd beweerd dat Luke Littler het Wereldkampioenschap Darts had gewonnen, uren voordat het toernooi zelfs begon, en dat de Spaanse tennisster Rafael Nadal uit de kast was gekomen als homoseksueel.

Nu heeft het bedrijf het probleem eindelijk erkend. In een verklaring aan mediaorganisaties liet Apple weten dat het werkt aan een software-update om gebruikers verder te verduidelijken wanneer de meldingen zijn gegenereerd door Apple Intelligence.

De door AI gegenereerde meldingssamenvattingen voor individuele gebruikers hebben al een klein pictogram om aan te geven dat het geen normale, onveranderde meldingen van de apps van nieuwsorganisaties zijn. Echter, sommige, zo niet de meeste gebruikers weten niet eens wat het pictogram betekent, en Apple lijkt dat toe te geven. “Een software-update in de komende weken zal verder verduidelijken wanneer de weergegeven tekst een samenvatting is die door Apple Intelligence wordt geleverd,” aldus het bedrijf, toevoegend dat de functie sowieso optioneel was en dat gebruikers de samenvattingen op hun apparaten kunnen uitschakelen.

Hoe dan ook, de uitleg van Apple betekent dat de functie niet wordt verwijderd. In plaats van Apple Intelligence snel op de markt te brengen om concurrerend te blijven, heeft het bedrijf ervoor gekozen om gebruikers meer bewust te maken van de nadelen van de functie.

Bovendien zijn deze fouten eigenlijk onvermijdelijk en zullen software-updates niet helpen. Dat komt omdat de grote taalmodellen – ook gebruikt voor de meldingssamenvattingen van Apple – niet in staat zijn om de inhoud die ze samenvatten te begrijpen.

Deze modellen werken door het voorspellen van woorddelen op basis van wat eraan voorafging. Bovendien, hoewel de modellen nog steeds worden getraind en verbeterd, kunnen ze simpelweg geen foutpercentage van nul bereiken wanneer er elke dag talloze samenvattingen worden gegenereerd.