Алгоритми безпілотного автомобіля Uber, який збив людину на смерть у березні 2018 року, не вміли визначати пішоходів, які переходять дорогу в недозволеному місці. Через це, а також інші особливості роботи алгоритмів, що визначають небезпеку об'єктів на шляху автомобіля, він почав гальмувати лише за 0,2 секунди до зіткнення, хоча виявив людину за 5,6 секунд. Це випливає з документів, які Національна рада з безпеки на транспорті США (NTSB) опублікувала перед засіданням 19 листопада, на якому буде визначена причина інциденту.
Дорожньо-транспортна пригода, яку розслідує NTSB, сталася 19 березня 2018 року в місті Темпі штату Арізона. Автомобіль з інженером-випробувачем за кермом пересувався дорогою в темний час доби зі швидкістю близько 70 кілометрів на годину. У цей час на відстані 110 метрів від найближчого пішохідного переходу 49-річна Елейн Херцберг (Elaine Herzberg) переходила дорогу в недозволеному місці, штовхаючи поруч із собою велосипед, завантажений пакетами з речами. Автомобіль збив жінку, і через невеликий час вона померла в лікарні від отриманих травм. Це стало першою смертю від автомобіля 3 рівня автономності.
У травні NTSB опублікував попередній звіт, з якого стало відомо, що автомобіль виявив Херцберг за кілька секунд до зіткнення, але це не допомогло йому уникнути події через помилкову класифікацію пішохода і відключену систему аварійного гальмування. Тепер NTSB опублікував підсумковий набір з 40 документів загальною довжиною понад 400 сторінок, зібраний за час розслідування. Він буде використаний для винесення підсумкового рішення щодо причин того, що сталося на засіданні 19 листопада. Деякі з документів містять нові подробиці, зокрема, один з них докладно описує роботу алгоритмів виявлення та класифікації об'єктів на дорозі, а також передбачення їх дій.
Як вже було відомо раніше, інженери Uber переналаштували штатну систему екстреного гальмування Volvo XC90 таким чином, щоб при їзді в автономному режимі вона повністю відключалася. Це було зроблено через конфлікт між радарами і алгоритмами від Volvo і Uber. Розробники компанії реалізували власну систему екстреного гальмування і впровадили в неї секундну затримку, під час якої алгоритм переконується в небезпеці ситуації, а також розраховує шлях об'їзду, якщо це можливо. Таку функцію інженери додали через безліч помилкових спрацьовувань. Якщо за цю секунду інженер за кермом не перехопив управління, а алгоритм не перестав визначати об'єкт на шляху як небезпечний, система починала гальмування сама.
Ще одна особливість реалізації алгоритмів, що вплинула на результат того, що сталося, полягає в тому, як саме відбувалася класифікація об'єктів на шляху і прогноз їх руху. Алгоритми класифікації були навчені розпізнавати пішоходів тільки поруч з пішохідними переходами. В інших випадках вона відносила об'єкт до транспортних засобів або невпізнаних об'єктів.
У випадку з транспортними засобами алгоритми передбачали їх подальший рух відповідно до стандартних сценаріїв. Наприклад, якщо алгоритм розпізнав об'єкт як автомобіль, спочатку він припускав, що він поїде вперед по своїй смузі, а потім аналізував історію даних з датчиків і передбачав траєкторію руху. При цьому прогноз руху розраховувався тільки від моменту, коли алгоритм присвоїв об'єкту певний клас.
Багато в чому це і призвело до того, що автомобіль, який побачив людину за 5,6 секунди до зіткнення, не зміг заздалегідь знизити свою швидкість. Справа в тому, що через те, що алгоритм не вмів розпізнавати пішоходів, він багато разів міняв клас об'єкта в міру наближення до нього і тим самим скидав історію свідчень. Більш того, в моменти, коли він визначав Херцберг в якості невпізнаного об'єкта, він приймав її за статичний об'єкт і взагалі не розраховував майбутню траєкторію.
Через це алгоритм остаточно відніс Херцберг до класу «велосипед» і розрахував, що він опиниться на шляху руху, тільки за 1,2 секунди до зіткнення. У цей момент система запустила процедуру гальмування, але фактично воно було відкладено на секунду через налаштування. За 0,2 секунди автомобіль почав гальмувати і сповістив водія, але той дивився в смартфон, і натиснув на педаль гальма через 0,7 секунди після удару.
У документах NTSB міститься безліч інших подробиць, а також наголошується, що з моменту аварії Uber переробила технічні аспекти роботи безпілотників, зокрема систему екстреного гальмування. Розрахунки показали, що з новою версією програмного забезпечення гальмування почалося б на більш ніж чотири секунди раніше. Крім того, відомство відзначило, що Uber в цілому змінила систему забезпечення безпеки в своєму проекті розробки і випробування безпілотних автомобілів. У грудні 2018 року компанії дозволили продовжити випробування безпілотних автомобілів на дорогах.
Аварія безпілотного автомобіля Uber вплинула на випробування багатьох розробників. Наприклад, свої випробування незабаром після того, що сталося припинила сама Uber, а також Toyota і NVIDIA. Крім того, подія в цілому вплинула на темпи програм розробки і випробувань безпілотників багатьох компаній в галузі.