Foști angajați Tesla care antrenează AI-ul FSD nu au încredere în sistem, dezvăluie o investigație Reuters
O investigație Reuters arată că angajații care etichetează datele pentru Full Self-Driving nu au încredere în sistem, iar metodologia de siguranță a Tesla ar fi înșelătoare.
Tesla se confruntă cu o nouă lovitură de imagine în jurul sistemului Full Self-Driving (FSD), după o investigație Reuters care pune sub semnul întrebării atât statisticile de siguranță promovate de companie, cât și încrederea internă în tehnologie. Potrivit investigației, mai mulți foști angajați Tesla implicați în antrenarea AI-ului pentru FSD nu ar avea încredere să fie transportați de sistem, iar metodologia folosită pentru a susține că tehnologia este mai sigură decât șoferii umani ar fi profund problematică.
Angajații care antrenează AI-ul nu au încredere în FSD
Raportul Reuters se bazează pe interviuri cu nouă foști data labelers Tesla (angajați care etichetează imaginile pentru antrenarea sistemului), un fost inginer din echipa de self-driving și 11 cercetători în siguranță rutieră. Șapte dintre cei nouă foști data labelers au spus că nu ar avea încredere în FSD să îi transporte. Un fost inginer care a analizat ani întregi date despre accidente Tesla a descris afirmațiile de siguranță ale companiei drept complet necredibile.
Acești angajați analizau imagini de la cele opt camere exterioare ale mașinilor Tesla care folosesc FSD. Potrivit relatărilor, sistemul ar fi eșuat frecvent în situații de bază: oprirea pentru vehicule de urgență, păstrarea distanței față de motocicliști, frânarea corectă pe ieșiri de autostradă sau evitarea zonelor de construcții. Într-un caz, o Tesla ar fi intrat într-o zonă de lucrări și ar fi fost aproape să lovească muncitori.
Metodologia de siguranță, acuzată de marketing înșelător
Tesla și Elon Musk au susținut că FSD este de până la 10 ori mai sigur decât condusul uman. Investigația Reuters afirmă însă că una dintre comparațiile centrale ar fi umflat nivelul de siguranță raportat de aproximativ trei ori. Problema ar fi legată de modul în care Tesla a comparat accidentele: compania ar fi numărat accidentele cu declanșare a airbagurilor la propriile mașini, apoi le-a comparat cu date federale care includ toate accidentele ce necesită remorcare. Aceste categorii nu sunt echivalente.
Reuters notează că datele federale includeau separat categoria accidentelor cu airbag, ceea ce ar fi permis o comparație directă. Când cercetătorul Marco Benedetti de la University of Michigan a făcut comparația corectă, avantajul Tesla a scăzut de la „de 10 ori mai sigur” la aproximativ de trei ori mai multă distanță între accidente. Chiar și această valoare rămâne discutabilă, deoarece flota Tesla este mult mai tânără decât media vehiculelor din SUA.
Zece dintre cei 11 cercetători în siguranță rutieră consultați de Reuters au considerat că metodologia Tesla seamănă mai degrabă cu marketing înșelător decât cu o analiză serioasă de siguranță.
Incidente grave și echipa „trauma team”
Reuters mai descrie existența unei echipe specializate în Palo Alto, cunoscută intern drept „trauma team”, care se concentra pe situații apropiate de accidente cu pietoni. Foști angajați au relatat că au văzut clipuri în care mașini Tesla controlate de FSD au fost aproape să lovească copii sau nu au recunoscut corect pietoni aflați pe treceri.
Un alt detaliu relevant ține de modul „Mad Max”, introdus pentru un stil de condus mai agresiv. Potrivit investigației, FSD ar fi depășit în unele cazuri limitele de viteză cu 32-48 km/h, iar un angajat a relatat un caz în care mașina ar fi mers cu aproximativ 96 km/h într-o zonă limitată la 40 km/h.
Pregătire locală intensă, contrar discursului lui Musk
Una dintre marile promisiuni ale lui Elon Musk a fost că Tesla nu are nevoie de cartografiere locală laborioasă, spre deosebire de rivali precum Waymo. Reuters susține însă că, înaintea lansărilor publice ale robotaxiurilor, Tesla a făcut exact genul de pregătire locală intensă pe care Musk o critica la competitori. Înaintea prezentării Cybercab din octombrie 2024, de la studiourile Warner Bros., Tesla a cartografiat zona în detaliu.
Investigația Reuters relevă o diferență majoră între discursul public al Tesla și realitatea observată de oamenii care au văzut zilnic cum se comportă FSD. Criticile vin într-un moment sensibil, când compania încearcă să convingă publicul și autoritățile că poate opera robotaxiuri la scară mare.
