Jimmy Wales: Wikipedia nu va permite AI să editeze direct articolele din cauza riscului de halucinații
Cofondatorul Wikipedia a declarat că încrederea în sistemele AI este insuficientă pentru a le permite editarea directă a conținutului, deși acestea pot fi utile pentru semnalarea unor subiecte.
Jimmy Wales, cofondatorul Wikipedia, a declarat că platforma nu este pregătită să permită inteligenței artificiale să editeze direct articolele. Declarația a fost făcută la Londra, în cadrul unui eveniment dedicat acțiunii climatice, și transmisă de AFP.
Riscul halucinațiilor AI
Wales a explicat că, deși noile modele AI au redus problema halucinațiilor, fenomenul rămâne „foarte grav”. Halucinațiile apar când AI oferă informații greșite într-un mod convingător, inducând în eroare utilizatorii.
Rolul AI în jurul Wikipedia
Cofondatorul nu respinge complet utilizarea AI. Acesta consideră că agenții AI ar putea fi utili pentru comunitatea de editori voluntari, de exemplu prin semnalarea știrilor de nișă sau a subiectelor mai puțin vizibile. Totuși, AI nu ar trebui să editeze direct articolele, deoarece „nu poți avea suficientă încredere în inteligența artificială”.
Impactul AI asupra traficului
Platformele AI depind de conținutul Wikipedia pentru a genera răspunsuri, ceea ce a dus la creșterea traficului generat de chatboți, în timp ce traficul uman a scăzut cu 8%. Wales a descris scăderea drept „semnificativă”, dar nu catastrofală, deoarece Wikipedia se bazează pe donații, nu pe publicitate.
Costurile infrastructurii
Wales a atras atenția asupra costurilor generate de accesările masive ale chatboților AI. Milioanele de solicitări către servere implică cheltuieli reale, iar companiile AI ar trebui să contribuie financiar. Wikipedia a încheiat deja acorduri cu mai mulți giganți tehnologici și a început să blocheze actorii care nu respectă regulile de acces.
