Accidentul care a provocat moartea unui pieton lovit de o mașină autonomă Uber în luna martie ar fi fost generat de o eroare de soft. Deși a detectat pietonul, computerul a decis să nu aplice frânarea de urgență.
Raportul a apărut pe site-ul theinformation.com, dar Uber a refuzat să comenteze, pentru că Agenția Națională de Siguranță a Transportului (National Transportation Safety Board – NTSB) îi interzice orice comunicare publică până la finalizarea anchetei. Theinformation scrie că senzorii mașinii au detectat pietonul care traversa strada prin loc nepermis și care se deplasa pe lângă o bicicletă. Dar soft-ul a decis să nu aibă nicio reacție, catalogând victima drept un “fals pozitiv”. Un “fals pozitiv” reprezintă un obiect care nu reprezintă un amenințare pentru vehicul, cum ar fi o pungă de plastic apărută pe carosabil.
Sistemul era astfel setat de programatorii companiei pentru a fi mai puțin deranjant. În momentul accidentului, SUV-ul Volvo XC90 echipat cu sistemul dezvoltat de Uber rula cu o viteză de 65 km/h pe timp de noapte. Victima, o femeie în vârstă de 49 de ani, a suferit răni grave și s-a stins din viață la spital.
Incidentul a dus la suspendarea programului de rulare autonomă al companiei Uber în Arizona, Pittsburg, San Francisco și Toronto și a angajat un consilier.
A apărut filmarea accidentului în care o mașină autonomă Uber a ucis un pieton
“I-am cerut ajutorul fostului președinte NTSB Cristopher Hart pentru a ne conislia în privința culturii siguranței generale”, a dezvăluit Uber.
Cristopher Hart este cel care a investigat accidentul fatal din 2016, în care a fost implicată o mașină Tesla care, în momentul impactului cu un camion, rula pe modul Autopilot.
2 thoughts on “Accidentul fatal în care a fost implicată mașina autonomă Uber, provocat de o eroare de soft”
“ERRARE HUMANUM EST”
Omul are voie sa mai greseasca (si sa plateasca ptr acest lucru), insa softul NU are voie. Dar pe soft CINE il face?
Deci CINE plateste? Pana acuma doar o persoana a platit… cu viata.
Cand un copil fuge dupa o minge, nu o sa stea sa se asigure cand trece strada… chiar si o persoana in stare de ebrietate poate reactiona imprevizibil , asta nu inseamna sa ii condamnam la moarte (sa stam impacati cu gandu ca sunt niste sinucigasi). Se intampla des multora sa fie neatenti din diverse motive si daca putem, atunci suntem obligati sa ii ferim cum putem mai bine de incidente/accidente grave.
Un soft care se crede performant trebuie sa ia in calcul cele mai pesimiste scenarii daca se doreste introdus in practica.
Un OM aflat la volan are uneori feelingul de a mai marii raza vizuala in anumite situatii (fie si din instinct, care la soft nu exista), de a mai reduce viteza cand nu e prea sigur de ceea ce vede, de a se adapta la situatii neprevazute, (uneori suntem capabili de reflexe ce nu le putem explica ulterior). SOFTUL trebuie sa fie mai bun de atat daca se implementeaza la scara larga.
Nu vreau sa arat pe nimeni cu degetu, dar nici nu trebuie sa se ajunga acolo sa aratam cu degetu…
Progresul cere sacrificii, dar trebuie sa merite efortul…