Top AI-conferentie verbiedt ChatGPT om academische papers te schrijven

Een van 's werelds meest prestigieuze machine learning-conferenties heeft auteurs verboden om AI-tools zoals ChatGPT te gebruiken om wetenschappelijke papers te schrijven, wat een debat op gang bracht over de rol van door AI gegenereerde tekst in de academische wereld.

De International Conference on Machine Learning (ICML) kondigde het beleid eerder deze week aan en verklaarde: “Papers die tekst bevatten die is gegenereerd op basis van een grootschalig taalmodel (LLM) zoals ChatGPT, zijn verboden, tenzij de geproduceerde tekst wordt gepresenteerd als onderdeel van de papers experimentele analyse.” Het nieuws wakkerde aan brede discussie op sociale media, waarbij AI-academici en onderzoekers het beleid zowel verdedigen als bekritiseren. De organisatoren van de conferentie reageerden door een langere verklaring publiceren uitleg geven over hun denken. (De ICML reageerde op verzoeken van The Verge voor commentaar door ons naar dezelfde verklaring te verwijzen.)

Volgens de ICML is de opkomst van openbaar toegankelijke AI-taalmodellen zoals ChatGPT – een algemene AI-chatbot die afgelopen november op internet gelanceerd — vertegenwoordigt een "opwindende" ontwikkeling die niettemin gepaard gaat met "onvoorziene gevolgen [en] onbeantwoorde vragen." De ICML zegt dat deze vragen bevatten over wie eigenaar is van de output van dergelijke systemen (ze zijn getraind op openbare gegevens, die meestal zonder toestemming worden verzameld en geven deze informatie soms letterlijk weer) en of tekst en afbeeldingen gegenereerd door AI "beschouwd moeten worden als nieuw of louter afgeleiden van bestaand werk."

In elk geval zijn er verschillende angsten over de schadelijke effecten van door AI gegenereerde tekst. Een van de meest voorkomende is dat de output van deze systemen simpelweg onbetrouwbaar is. Deze AI-tools zijn enorme autocomplete-systemen, getraind om te voorspellen welk woord in een bepaalde zin op het volgende volgt. Als zodanig hebben ze geen hardgecodeerde database met 'feiten' om uit te putten - alleen het vermogen om plausibel klinkende verklaringen te schrijven. Dit betekent zij hebben de neiging om valse informatie als waarheid te presenteren sinds of een bepaalde zin geluiden plausibel is geen garantie voor de feitelijkheid ervan.

In het geval van ICML's verbod op door AI gegenereerde tekst, is een andere potentiële uitdaging het onderscheid maken tussen schrijven dat alleen is "gepolijst" of "bewerkt" door AI en dat wat "volledig is geproduceerd" door deze tools. Op welk punt vormen een aantal kleine AI-geleide correcties een grotere herschrijving? Wat als een gebruiker een AI-tool vraagt ​​om zijn paper samen te vatten in een pittige samenvatting? Telt dit als vers gegenereerde tekst (omdat de tekst nieuw is) of louter polijsten (omdat het een samenvatting is van woorden die de auteur heeft geschreven)?