Czas na nowe doświadczenia

Panie doktorze, ile czasu minie, zanim pozwolimy, by samochód poruszał się bez zaangażowania kierowcy?
Dr. Essayed Bouzouraa: Na to pytanie nie można odpowiedzieć jednym zdaniem. Trzeba też opisać środowisko, w którym technologia ta będzie wykorzystywana. Mówimy o domenach i zakresie funkcjonalnym. Jestem jednak przekonany, że w ciągu najbliższych pięciu lat będziemy świadkami stopniowego wprowadzania funkcjonujących tak samochodów do układów uporządkowanych – na przykład pojawią się na autostradach.

Panie profesorze, był Pan członkiem komisji etyki, która w 2017 roku określiła wytyczne związane z pojazdami zautomatyzowanymi. Wciąż zajmuje się Pan tą tematyką. Czy jako społeczeństwo jesteśmy gotowi na tę technologię? Pięć lat to niedużo.
Prof. Christoph Lütge: Moim zdaniem w Niemczech nasze wymagania dotyczące zautomatyzowanej mobilności są zbyt niskie. Od kilku lat prowadzimy dyskusję na ten temat. Myślę, że ludzie chętnie przeszliby do kolejnych etapów. Powinniśmy mówić o zaletach i realnych korzyściach, a nie tylko o wyzwaniach i ryzyku.

Mówi się o automatyzacji, ale często słyszymy także określenie „jazda autonomiczna”.
Bouzouraa: W tym kontekście zawsze mówimy o zautomatyzowanym prowadzeniu. „Pilot autostradowy” reprezentuje poziom 3 (wg SAE, Society of Automotive Engineers - przyp. red.). Oznacza to, że kierowcy mogą przekazać prowadzenie pojazdu systemowi tylko w ograniczonym stopniu i określonych strefach (tak zwanych domenach). Po upływie określonego czasu włącza się sygnał ostrzegawczy – wtedy człowiek musi ponownie przejąć kierownicę. Do tego momentu odpowiedzialność za prowadzenie auta spoczywa na systemie. Na poziomie 4 (według SAE - przyp. red.) kierowca w ogóle nie prowadziłby samochodu. Po przekazaniu kontroli systemowi pojazd musiałby sam poradzić sobie w każdej sytuacji.
Lütge: W komisji etyki używaliśmy określenia jazda usieciowiona lub jazda zautomatyzowana. W języku potocznym najbardziej upowszechnił się jednak termin „jazda autonomiczna”, który jest nieco mylący. Sam trzymałbym się pojęcia jazdy zautomatyzowanej oraz jazdy wysoce zautomatyzowanej.
Dr. Thomas Dahlem: Dla mnie system jest autonomiczny, gdy działa całkowicie samodzielnie, bez ingerencji człowieka. Niemniej jednak nie jest to koncepcja, do której dążymy.

Jak blisko współpracują ze sobą w tej dziedzinie nauka i przemysł?
Bouzouraa: Obecnie interdyscyplinarne usieciowienie stało się niezwykle istotne. Potrzebne jest wzajemnie zrozumienie między dziedzinami.
Lütge: Do tej pory zagadnienia etyczne w obszarze technologii pojawiały się zazwyczaj dopiero po wystąpieniu poważnego problemu. Nam jednak zależy, aby zawczasu przewidywać problemy, wykraczające poza technologię. Kwestii tych obecnie nie reguluje prawo i być może nigdy regulować nie będzie.

Co ma Pan na myśli?
Lütge: Na przykład problem zachowania zautomatyzowanego samochodu wobec innych użytkowników drogi. Czy jeździ w sposób bardzo ostrożny, czyli na przykład zachowuje większy odstęp niż wymagają tego przepisy drogowe? Aby wzbudzić zaufanie do nowej technologii, należy wziąć pod uwagę również te miękkie czynniki etyczne. Chcemy je uwzględnić już w fazie projektowania.
Bouzouraa: Dialog i dyskusja potrzebne są na etapie projektowania, jak również po wejściu technologii do produkcji seryjnej. Można powiedzieć, że rozwój technologiczny nie ma końca.

W jakim stopniu rozwiązania tradycyjnej inżynierii motoryzacyjnej dają się zastosować w przypadku jazdy zautomatyzowanej?
Bouzouraa: Jest to gruntowna zmiana – zarówno dla naszych klientów z perspektywy doświadczenia użytkownika, jak i dla nas – jako producentów – w zakresie rozwoju i projektowania pojazdów. Ta technologia wymaga zastosowania wielu czujników i systemów, optymalnie rozmieszczonych i połączonych w sieć. Oczywiście zautomatyzowane Audi będzie wyglądało świetnie i wewnątrz, i na zewnątrz, ale wymagania i procesy fazy projektowej różnią się tu diametralnie.
Dahlem: Naszym celem jest zaoferowanie klientom zupełnie nowych wrażeń płynących z użytkowania samochodu. W przyszłości będziemy projektować modele mając na względzie przede wszystkim doświadczenie użytkownika. To zupełnie nowe podejście. W dzisiejszych samochodach nie znajdziemy ani jednej części, na którą ta nowa filozofia nie będzie mieć wpływu. Na każdy komponent będziemy musieli spojrzeć z nowej perspektywy.

Na przykład?
Bouzouraa: Mam tu na myśli na przykład sprawdzone systemy, takie jak zbiorniki płynu do spryskiwaczy, które będą działać całkiem inaczej. W przyszłości będziemy musieli stworzyć rozwiązanie, które zapewni stałe utrzymanie czystości czujników – nawet bez ingerencji człowieka.

Jak dalece rozwinięta jest teraz ta technologia w Audi?
Bouzouraa: Nasze pojazdy testowe właściwie nie zjeżdżają z drogi. Nieustannie zbieramy dane i uczymy się. Przeróżne czujniki w samochodzie i na powierzchni karoserii gromadzą ogrom informacji. Musieliśmy opracować nowe metody, także z wykorzystaniem sztucznej inteligencji, aby je przetwarzać. Równocześnie wdrażamy niezbędne procesy, które pozwolą nam wprowadzić technologię do produkcji seryjnej.
Dahlem: Wyzwaniem jest również identyfikacja i interpretacja wszystkich możliwych scenariuszy jeszcze przed zaprogramowaniem funkcji. Chodzi o to, jak zautomatyzowany pojazd ma zachować się w określonych sytuacjach.

Ale jak przewidzieć wszystkie możliwe scenariusze? Przecież jest ich nieskończenie wiele.
Bouzouraa: To prawda. Znamy doniesienia oparte na najnowszej technologii, że reklamy na autobusach pokazujące ludzi w ruchu były błędnie interpretowane. System uznawał na przykład, że postać ze zdjęcia skacze na jezdnię. Percepcja wizualna z wykorzystaniem kamer ma swoje ograniczenia. Nie tak dawno temu w Internecie pojawił się opis przypadku, w którym systemy kamer zinterpretowały świecący księżyc jako żółte światło sygnalizacji drogowej. Dlatego też polegamy na połączeniu czujników wizualnych i prowadzących pomiary aktywnie, takich jak radary i lidary.

Skoro zdarzają się takie sytuacje, jak chcecie zbudować zaufanie klientów?
Lütge: W mojej ocenie korzyści są wyraźne. Niektóre z dzisiejszych systemów wspomagania już teraz pokazują, czego użytkownicy mogą spodziewać się w przyszłości. Nie przekonamy wszystkich, ale nie zawsze będzie to wynikało z braku zaufania.
Bouzouraa: Zaufanie to podstawa. Zaufanie zależy też od tego, na ile pasażerowie będą rozumieć zachowanie sztucznej inteligencji. Zdarzało się na przykład, że testerzy informowali, że zbyt płynna jazda wywołuje u nich uczucie dyskomfortu. Nie byli bowiem pewni, czy system jest rzeczywiście aktywny. Więc my zastanawiamy się teraz nad zakresem, w jakim podczas zautomatyzowanej jazdy powinna poruszać się kierownica, dostarczając w ten sposób wizualnej informacji zwrotnej.
Lütge: Ale to również pokazuje, że nie wszystko da się racjonalnie wytłumaczyć. Emocje odgrywają tu pewną rolę. Przestrzegam przed wyolbrzymianiem obaw. Dziś kierowcy też ufają technologii, na przykład gdy jeżdżą bardzo szybko – i tak dalej.

Newralgiczną sprawą jest przewidywalne zachowanie na drodze. Jak w tym świetle miałyby funkcjonować obok siebie pojazdy zautomatyzowane i niezautomatyzowane, zwłaszcza na początku?
Bouzouraa: Głęboko się nad tym zastanawiamy. Na pewno dobrym pomysłem byłoby wprowadzenie tych systemów początkowo tylko w określonych domenach – tak czy inaczej zmierzamy w kierunku takiego rozwiązania. Już sam termin „pilot autostradowy” wskazuje na tego typu podejście. Autostrada to domena, którą można stosunkowo łatwo kontrolować. Jest bardzo stabilna strukturalnie i prawnie. Nie zmienia to faktu, że nasze założenia dotyczące zachowań na drodze powinny obejmować wszystkich użytkowników.
Lütge: Moim zdaniem ruch mieszany nie będzie aż tak dużym problemem. Podobne technologie rozwijają także inni producenci. Ich systemy również będą cechować się dobrą komunikacją i wysoką uważnością. Myślę, że to rozsądny pomysł, żeby testy przeprowadzić najpierw na autostradzie – niemniej jednak nie wolno zaniedbywać pozostałych domen, zwłaszcza miast.

Czy miasto stawia przed wami jeszcze trudniejsze wyzwania?
Bouzouraa: To prawda, że w przypadku miast trzeba przyjąć kompleksowe podejście. Miasto jako domena pełna pieszych i rowerzystów przynosi nowy wymiar złożoności.
Dahlem: Autostrady również łączą się z przestrzenią miejską, więc podejdziemy do tego krok po kroku. Technologia będzie musiała najpierw poradzić sobie ze wszystkimi skomplikowanymi elementami, takimi jak skrzyżowania, ronda i krawężniki, których dzisiejsze czujniki przecież nie widzą.
Lütge: Ryzyko należy rozpatrzyć już wcześniej. Jakie ryzyko jest akceptowalne? Jak je oszacować? Właśnie nad tym teraz pracujemy. Trzeba sobie jasno powiedzieć: nie możemy podchodzić do tej sprawy z nastawieniem na zerowy poziom ryzyka. Takie podejście jest nierealistyczne.

Jak więc oszacować ryzyko?
Dahlem: Punktem odniesienia jest tu człowiek, a ludzie potrafią reagować niezwykle szybko – w skali milisekundy. Nasze wymagania wobec systemu i sztucznej inteligencji są więc wysokie.
Lütge: Dodam tutaj, że zadanie określone następująco: działać lepiej niż kierowca-człowiek – można rozumieć różnie. Jeśli standardy będą przesadzone, czyli będą zanadto ostrożne czy zanadto sportowe albo zbyt defensywne, efekt może okazać się przeciwny do zamierzonego.

Jak więc zdecydujecie o tych standardach?
Bouzouraa: Projektujemy kierowcę na bazie sztucznej inteligencji, ale na podstawie modelowania przeciętnego użytkownika samochodu. Wiemy już, że „pilot autostradowy” będzie raczej ostrożnym kierowcą. Ostatecznie na poczucie komfortu wpływa także poziom bezpieczeństwa. Ciężko o radość z jazdy, gdy zautomatyzowany samochód zachowuje się zbyt agresywnie. System musi przewozić swoich pasażerów wygodnie i bezpiecznie. Jedna kwestia pozostaje otwarta: jak użytkownicy przyjmą krzywą uczenia się systemu – i czy w ogóle ją zaakceptują.
Lütge: To dobre pytanie, które omawialiśmy również na obradach komisji etyki. Uczyć się powinna cała flota samochodów, a nie tylko pojedynczy pojazd. A już zwłaszcza wtedy, gdy stawką jest bezpieczeństwo. Jeśli ktoś woli jechać po autostradzie wolniej, powinien mieć możliwość ustawienia tego parametru. Ludzie, którzy sami przecież mają zdolność uczenia się, zaakceptują fakt, że osiągnięcie odpowiedniego poziomu bezpieczeństwa zajmie trochę czasu. Nasze społeczeństwo już dawno przyzwyczaiło się do tego, że sztuczna inteligencja zbiera doświadczenia i dostosowuje się stopniowo.

Wróćmy do modelowego kierowcy. Czy nie jest tak, że w każdym kraju mamy do czynienia z nieco innymi przyzwyczajeniami na drodze?
Bouzouraa: To prawda. Niewątpliwie ma to związek z indywidualnym doświadczeniem, a więc także z kulturą. W jaki sposób zautomatyzowany pojazd oddaje styl prowadzenia w danym regionie? Czy istnieje jakiś wariant pośredni? Nad takimi kwestiami obecnie pracujemy.
Lütge: W Europie sytuacja jest szczególna, ponieważ nieustannie przekraczamy granice i poruszamy się samochodami w krajach, gdzie kultura jazdy bywa odmienna. Po wypróbowaniu różnych pojazdów testowych mam wrażenie, że ciągle nie mamy jeszcze do czynienia z ujednoliconym standardem.
Dahlem: Trzeba to wszystko jeszcze dokładniej przemyśleć. W przyszłości zautomatyzowany samochód kupiony na przykład w Niemczech będzie musiał rozpoznać także włoskiego policjanta. W Holandii znaki na autostradach mają inny kolor niż u nas, a w Portugalii na drogach używa się innych materiałów. W związku z tym nie będziemy w stanie udostępnić naszego systemu wszędzie – a jeśli nawet się nam to uda, to tylko w ograniczonym zakresie. Ale jak już wspomniałem, nasza technologia oparta jest na adaptacji i nieustannym uczeniu się.
Bouzouraa: Gdy mowa o pilocie autostradowym, nie powinniśmy zapominać, że w samych Niemczech mamy około 13 200 kilometrów autostrad. To ogromny potencjał, aby cieszyć się korzyściami i wrażeniami płynącymi z zautomatyzowanej jazdy. Nie mam co do tego najmniejszych wątpliwości.