Autonomiczne Waymo wjechało w sam środek akcji policji. Tego algorytm nie przewidział

Algorytmy autonomicznych taksówek Waymo radzą sobie z korkami, pieszymi i zmianą pasów lepiej niż wielu kierowców. Ale pewnych sytuacji… zresztą, zobaczcie sami.

Okazuje się jednak, iż ich oprogramowanie nie przewidziało scenariusza rodem z kina akcji. W Los Angeles robotaxi z pasażerami na pokładzie z nonszalancją wjechało prosto w linię ognia podczas policyjnego zatrzymania.

Do zdarzenia doszło na jednym ze skrzyżowań w Mieście Aniołów. Sytuacja była poważna: funkcjonariusze LAPD prowadzili zatrzymanie podejrzanego o przestępstwo. Policjanci zablokowali jedną stronę ulicy, wyciągnęli broń i celowali w białego pickupa, którego kierowca leżał już na asfalcie. Napięcie sięgało zenitu, gdy na scenę wjechał… autonomiczny Jaguar I-Pace.

Przepraszam, ja tylko przejeżdżam

Jak widać na nagraniu, które obiegło sieć (załączam je niżej), Waymo wykorzystało końcówkę żółtego światła, by wykonać lewoskręt. Pech chciał, iż manewr ten skierował auto prosto między celujących policjantów a zatrzymywanego przestępcę. Co zrobił robot? Zdezorientowany błyskającymi światłami radiowozów, zwolnił i niemal zatrzymał się w samym środku akcji, włączając choćby prawy kierunkowskaz – jakby próbował grzecznie zjechać na pobocze, prosto pod lufy.

Funkcjonariusze zaczęli krzyczeć na samochód, by odjechał, co dodaje całej sytuacji groteskowego wymiaru – krzyczenie na algorytm rzadko przynosi efekty. Ostatecznie auto ruszyło dalej, wywożąc (zapewne przerażonych) pasażerów z potencjalnej strefy rażenia.

Przypadek skrajny

Rzecznik Waymo w oświadczeniu dla mediów użył korporacyjnej nowomowy, zapewniając, iż „bezpieczeństwo jest priorytetem”, a firma „uczy się na takich nietypowych zdarzeniach”. W języku programistów sytuacja ta to podręcznikowy tzw. przypadek brzegowy – scenariusz tak rzadki, iż nie uwzględniono go w podstawowym kodzie. Algorytm wie, jak reagować na czerwone światło, ale nie ma instrukcji „jeśli widzisz wycelowaną broń, nie wjeżdżaj między policjanta a bandytę”.

Z drugiej strony, LAPD przyznało, iż mogło lepiej zabezpieczyć teren. Gdyby radiowóz fizycznie zablokował wjazd na skrzyżowanie, czujniki Waymo wykryłyby przeszkodę i auto by nie ruszyło. A tak, robot uznał, iż droga jest wolna, a pistolety to tylko nieistotny element tła.

Na szczęście nikomu nic się nie stało, a podejrzany został aresztowany bez oporu. Pasażerowie Waymo dostali zaś darmowe kino akcji na żywo.

Kierowcy elektryków mogą odetchnąć. Jazda buspasami legalna do końca 2027 roku

Jeśli artykuł Autonomiczne Waymo wjechało w sam środek akcji policji. Tego algorytm nie przewidział nie wygląda prawidłowo w Twoim czytniku RSS, to zobacz go na iMagazine.