Google, trasă la răspundere pentru informații false generate de AI în Germania

O decizie preliminară a unei instanțe din Germania ar putea avea consecințe majore pentru industria căutărilor bazate pe inteligență artificială. Judecătorii au stabilit că Google poate fi trasă la răspundere pentru afirmațiile false generate de funcția AI Overviews.

Editorii reclamă asocieri eronate cu fraude

Hotărârea vine după ce doi editori au reclamat că sistemul Google i-a asociat în mod eronat cu fraude și practici comerciale dubioase. Potrivit dosarului, rezumatele generate automat de Google au prezentat afirmații precum faptul că anumite publicații sunt percepute drept înșelătorii sau desfășoară activități suspecte.

Problema identificată de instanță nu a fost simpla afișare a unor linkuri externe. Judecătorii au concluzionat că sistemul AI a formulat afirmații proprii, care nu apăreau în sursele afișate în rezultatele căutării.

Google nu a eliminat conținutul contestat

Editorii au solicitat corectarea informațiilor și au transmis o notificare oficială către Google. Compania nu a eliminat imediat conținutul contestat. Google a susținut că utilizatorii cunosc limitele inteligenței artificiale și că rezultatele trebuie verificate.

Judecătorii au considerat că AI Overviews nu funcționează ca un motor de căutare tradițional. În loc să afișeze simple linkuri, sistemul generează concluzii și declarații proprii pe baza informațiilor găsite online. În aceste condiții, responsabilitatea pentru eventualele erori nu poate fi transferată către terți.

Impactul asupra industriei AI

Unul dintre cele mai importante argumente din hotărâre vizează rolul inteligenței artificiale în căutările online. Instanța a subliniat că utilizatorii pot găsi informațiile și fără rezumatele generate de AI. Funcția reprezintă doar un serviciu suplimentar. Prin urmare, companiile care dezvoltă astfel de instrumente nu pot beneficia automat de protecțiile juridice acordate motoarelor de căutare clasice.

Judecătorii au mers mai departe și au remarcat că utilitatea unui astfel de serviciu ar scădea considerabil dacă fiecare răspuns ar trebui verificat manual. Decizia instanței este susținută și de mai multe cercetări recente. Un sondaj realizat de Pew Research Center a indicat că majoritatea utilizatorilor nu accesează linkurile sursă afișate în AI Overviews.

În același timp, o analiză publicată de The New York Times a arătat că versiunea actuală a sistemului Gemini oferă informații incorecte în aproximativ 9% dintre cazuri. Mai mult, peste jumătate dintre linkurile sursă asociate răspunsurilor conțin erori sau referințe inexacte.

Posibile consecințe pentru marile companii

Specialiștii consideră că hotărârea ar putea influența viitoare procese împotriva companiilor care dezvoltă motoare de căutare și chatbot-uri bazate pe inteligență artificială. Dacă și alte instanțe vor adopta aceeași interpretare, marile companii din domeniu s-ar putea confrunta cu un val de litigii privind conținutul defăimător sau informațiile false generate automat.

Google analizează în prezent decizia și nu a confirmat dacă va depune apel. „Investim semnificativ în calitatea AI Overviews pentru a ne asigura că marea majoritate a răspunsurilor oferă informații corecte”, a transmis compania într-un punct de vedere oficial. Google a precizat că examinează atent hotărârea, care nu este încă definitivă.