Acquire
Cybertechnologia kontra ludzkość? > Przyszłość > Audi Polska | Przewaga dzięki technice
Audi Polska | Przewaga dzięki technice Przyszłość
Cybertechnologia kontra ludzkość?

Cybertechnologia kontra ludzkość?

Tristana Harrisa uważa się za uosobienie sumienia Doliny Krzemowej: prowadzi działalność edukacyjną na rzecz bardziej świadomego korzystania z mediów społecznościowych i sztucznej inteligencji. Jego przemówienie inauguracyjne było główną atrakcją zeszłorocznego Audi MQ! Innovation Summit. Połączyliśmy się z nim online w celu przeprowadzenia wywiadu.

Tekst: Nadine Kaminski ― Zdjęcia: Shaughn and John, Stefan Boesl  Czas czytania: 5 min

Portret Tristana Harrisa przy użyciu filtra migotania ekranu.

Gdy Tristan Harris, niegdyś etyk designu w jednej z największych firm internetowych na świecie, a obecnie aktywista na rzecz cyfryzacji i współzałożyciel organizacji non profit „Center for Humane Technology”, dołącza do naszej wideorozmowy za pośrednictwem smartfona, widać, że nie patrzy na białą ścianę biura. Harris wydaje się zrelaksowany, niemal oderwany od rzeczywistości. I faktycznie, wita nas w niecodzienny sposób. – Gdybyście tylko mogli podziwiać ten fantastyczny widok razem ze mną! Góry Arizony, niebo, chmury – naprawdę można odetchnąć tu pełną piersią!

Cyfryzacja może być czymś wspaniałym. Sprawia, że stajemy się bardziej elastyczni, tworzy nowe przestrzenie do kształtowania naszego życia i pracy. Ale (i Tristan Harris zajmuje się właśnie tym wielkim ale) jeśli nie będziemy ostrożni, stracimy tę wolność równie szybko, jak ją rzekomo uzyskaliśmy.

Przyszłość już tu jest

Autorzy science fiction od dziesięcioleci czerpią z lęku przed tym, że SI, sztuczna inteligencja, może w odległej przyszłości kontrolować nasze społeczeństwo. – Zawsze uczyliśmy się, że wroga siła musi złamać naszą wolę, aby nas kontrolować – mówi Harris. „Jeśli chcę pchnąć przeciwnika w określonym kierunku, muszę przewyższać go siłą. Już jednak w dzieciństwie, zabawiając się magicznymi sztuczkami (a potem w młodości, na studiach w Stanford University’s Persuasive Technology Lab) Harris zrozumiał, że sprawowanie kontroli nie wymaga aż tyle wysiłku. – Jak sprawić, by iluzja działała? Wystarczy wiedzieć o psychice odbiorcy jedną rzecz, której on sam nie wie. Wówczas można manipulować jego zachowaniem. Nie trzeba łamać jego woli, wystarczy wykorzystać słabości – mówi.

W ten sposób, według Harrisa, działa większość interfejsów mediów społecznościowych, programów pocztowych i aplikacji, które są obecnie integralną częścią codziennego życia miliardów ludzi. – Wszyscy chodzimy ze smartfonami w kieszeniach; automatami, które mają podobny wpływ na nasz neurologiczny system nagrody jak jednoręcy bandyci w kasynie – tłumaczy.

Tristan Harris
Zbliżenia na dłonie Tristana wykonującego magiczną sztuczkę z monetą – oba z filtrem „screen flicker”.

Rośnie luka informacyjna

Oczywiście, dopóki my, użytkownicy, nie mamy pojęcia, że nasze mózgi niezawodnie reagują na zmienne nagrody poprzez uwalnianie hormonów szczęścia, stoimy na przegranej pozycji wobec skoncentrowanej wiedzy przemysłu cybertechnologicznego. – Zmienność rozkładu nagradzania – wyjaśnia Harris – oznacza, że przy niektórych pociągnięciach za dźwignię dostaję soczystą, ekscytującą nagrodę – ale nie zawsze. To tylko jeden z przykładów na to, jak można wykorzystać przeciw nam najbardziej pierwotne funkcje naszego mózgu. Sprawdzamy naszą skrzynkę mailową co kilka minut, przesuwając palcem w górę lub w dół w poszukiwaniu nowości – zawsze mając nadzieję na „nagrodę”. Czy można tu jeszcze mówić o świadomym korzystaniu z technologii komunikacyjnej? Czy sami decydujemy o tym, jak spędzamy czas? Tristan Harris, podobnie jak wielu innych badaczy, zdecydowanie temu zaprzecza. – Dostawcy strumieni wideo, aplikacje sieciowe, portale informacyjne – wszyscy obecnie rywalizują ze sobą – mówi Harris, opisując zasadniczy problem, „walkę o naszą uwagę”. Technologia nie rozwija się arbitralnie, lecz reaguje na innowacje konkurencji własnymi innowacjami. Jednym z nieprzyjemnych skutków ubocznych tej spirali jest szybkie rozprzestrzenianie się fałszywych wiadomości. – Gniew jest lepszym generatorem czasu ekranowego niż zadowolenie – tłumaczy Harris. Kiedy coś nas zdenerwuje, dzielimy się tym ze znajomymi, informujemy się na kolejnych kanałach i dalej konsumujemy coraz więcej i więcej treści. Odpowiedni algorytm zdaje sobie z tego sprawę i karmi nas bardziej poruszającymi informacjami. Nie zawsze muszą być one fałszywe, ale jedno jest pewne: prawda nie decyduje o tym, co pojawia się na naszych ścianach i osi czasu. –W końcu taki osobisty strumień wiadomości nie jest kontrolowany przez ludzi, ale przez algorytmy – mówi Harris. – Nie zwracają uwagi na to, co jest dla nas dobre i zdrowe. Patrzą na to, co zajmie naszą uwagę na dłużej”.


Potrzebujemy cyfrowej epoki oświecenia.

Co teraz należy zrobić?

Czy istnieje rozwiązanie tego skomplikowanego dylematu? Harris uważa, że tak. – Po pierwsze, wszyscy musimy lepiej zrozumieć, jak podatne są nasze umysły, abyśmy mogli skuteczniej opierać się niezdrowym działaniom pod wpływem impulsu. W ten sposób etyk designu praktycznie wzywa do zapoczątkowania nowej, cyfrowej epoki oświecenia. – Po drugie, potrzebujemy nowych modeli odpowiedzialności – kontynuuje Harris. –Osoby podejmujące decyzje w wielkich firmach technologicznych muszą być świadome swojej odpowiedzialności. A my musimy być w stanie ją egzekwować. Po trzecie, Harris przekonuje – i to z coraz większym powodzeniem, także w Dolinie Krzemowej – do „prawdziwego renesansu designu”. Ochrona konsumentów powinna być na pierwszym miejscu. Ale należy także umożliwić lub zaproponować użytkownikom mądrzejsze wykorzystanie ich czasu. Potrzebne są wspólne cele. Czego tak naprawdę oczekują użytkownicy w codziennym korzystaniu z mediów społecznościowych? Niekończących się korowodów filmików i gorących dyskusji na forum? Czy raczej aktywnej pomocy w wykorzystaniu cennego czasu z dala od ekranu? – Może to być, na przykład, impuls do zorganizowania improwizowanego przyjęcia, sugestia dotycząca listy gości i wsparcie w zbieraniu zaproszeń – stwierdza Harris.

Zrzut ekranu z transmitowanego na żywo przemówienia Tristana Harrisa podczas szczytu Audi MQ Summit 2020.

Odpowiedzialność i możliwości

Czy to w sposób pozytywny, czy negatywny, sztuczna inteligencja „optymalizuje” nasze zachowania, zna naszą psychikę, odgaduje i manipuluje naszymi pragnieniami – zdaniem Harrisa już dawno nas wyprzedziła, tego możemy być pewni. Z tej drogi nie da się już zawrócić. Pozostaje więc problem wdrożenia zdrowszych wartości niż tylko sprzedaż jak największej ilości uwagi reklamodawcom za najwyższą stawkę. Harris ujmuje to następująco: prawnicy czy lekarze również mają ogromną przewagę wiedzy nad swoimi klientami. Ale etyka zawodowa zobowiązuje ich do działania w ich najlepszym interesie. Uważa, że taka zmiana paradygmatu jest nieunikniona również w branży technologicznej. Oczywiście w połączeniu z odpowiedzialnym, świadomym zachowaniem użytkowników. Mając to na uwadze, na koniec Harris udziela nam praktycznej wskazówki. – Nie odmawiaj sobie mediów społecznościowych. W zamian kilka razy dziennie pozwól sobie na świadome spędzanie czasu poza ekranem! Przeznacz go na robienie rzeczy, które cię ciekawią, cieszą lub relaksują. One również uaktywniają nasz układ nagrody.


Wyznaczanie trendów

Ambicją Audi jest wspieranie postępowego dialogu między dyscyplinami: w ten sposób powstaje giełda nadążających za rzeczywistością koncepcji, zapewniająca wgląd w rozwój w przyszłości.