Cybertechnologia kontra ludzkość?
Tristana Harrisa uważa się za uosobienie sumienia Doliny Krzemowej: prowadzi działalność edukacyjną na rzecz bardziej świadomego korzystania z mediów społecznościowych i sztucznej inteligencji. Jego przemówienie inauguracyjne było główną atrakcją zeszłorocznego Audi MQ! Innovation Summit. Połączyliśmy się z nim online w celu przeprowadzenia wywiadu.
Tristan Harris prowadzi działania na rzecz cyfryzacji i jest współzałożycielem organizacji non-profit Center for Humane Technology.
Tristan Harris prowadzi działania na rzecz cyfryzacji i jest współzałożycielem organizacji non-profit Center for Humane Technology.
Gdy Tristan Harris, niegdyś etyk designu w jednej z największych firm internetowych na świecie, a obecnie aktywista na rzecz cyfryzacji i współzałożyciel organizacji non profit „Center for Humane Technology”, dołącza do naszej wideorozmowy za pośrednictwem smartfona, widać, że nie patrzy na białą ścianę biura. Harris wydaje się zrelaksowany, niemal oderwany od rzeczywistości. I faktycznie, wita nas w niecodzienny sposób. – Gdybyście tylko mogli podziwiać ten fantastyczny widok razem ze mną! Góry Arizony, niebo, chmury – naprawdę można odetchnąć tu pełną piersią!
Cyfryzacja może być czymś wspaniałym. Sprawia, że stajemy się bardziej elastyczni, tworzy nowe przestrzenie do kształtowania naszego życia i pracy. Ale (i Tristan Harris zajmuje się właśnie tym wielkim ale) jeśli nie będziemy ostrożni, stracimy tę wolność równie szybko, jak ją rzekomo uzyskaliśmy.
Przyszłość już tu jest
Autorzy science fiction od dziesięcioleci czerpią z lęku przed tym, że SI, sztuczna inteligencja, może w odległej przyszłości kontrolować nasze społeczeństwo. – Zawsze uczyliśmy się, że wroga siła musi złamać naszą wolę, aby nas kontrolować – mówi Harris. „Jeśli chcę pchnąć przeciwnika w określonym kierunku, muszę przewyższać go siłą. Już jednak w dzieciństwie, zabawiając się magicznymi sztuczkami (a potem w młodości, na studiach w Stanford University’s Persuasive Technology Lab) Harris zrozumiał, że sprawowanie kontroli nie wymaga aż tyle wysiłku. – Jak sprawić, by iluzja działała? Wystarczy wiedzieć o psychice odbiorcy jedną rzecz, której on sam nie wie. Wówczas można manipulować jego zachowaniem. Nie trzeba łamać jego woli, wystarczy wykorzystać słabości – mówi.
W ten sposób, według Harrisa, działa większość interfejsów mediów społecznościowych, programów pocztowych i aplikacji, które są obecnie integralną częścią codziennego życia miliardów ludzi. – Wszyscy chodzimy ze smartfonami w kieszeniach; automatami, które mają podobny wpływ na nasz neurologiczny system nagrody jak jednoręcy bandyci w kasynie – tłumaczy.
W dzieciństwie Harris uczył się magicznych sztuczek, występował jako iluzjonista na urodzinach – i już wtedy zdawał sobie sprawę, jak łatwo można wpływać na ludzki umysł.
W dzieciństwie Harris uczył się magicznych sztuczek, występował jako iluzjonista na urodzinach – i już wtedy zdawał sobie sprawę, jak łatwo można wpływać na ludzki umysł.
Rośnie luka informacyjna
Oczywiście, dopóki my, użytkownicy, nie mamy pojęcia, że nasze mózgi niezawodnie reagują na zmienne nagrody poprzez uwalnianie hormonów szczęścia, stoimy na przegranej pozycji wobec skoncentrowanej wiedzy przemysłu cybertechnologicznego. – Zmienność rozkładu nagradzania – wyjaśnia Harris – oznacza, że przy niektórych pociągnięciach za dźwignię dostaję soczystą, ekscytującą nagrodę – ale nie zawsze. To tylko jeden z przykładów na to, jak można wykorzystać przeciw nam najbardziej pierwotne funkcje naszego mózgu. Sprawdzamy naszą skrzynkę mailową co kilka minut, przesuwając palcem w górę lub w dół w poszukiwaniu nowości – zawsze mając nadzieję na „nagrodę”. Czy można tu jeszcze mówić o świadomym korzystaniu z technologii komunikacyjnej? Czy sami decydujemy o tym, jak spędzamy czas? Tristan Harris, podobnie jak wielu innych badaczy, zdecydowanie temu zaprzecza. – Dostawcy strumieni wideo, aplikacje sieciowe, portale informacyjne – wszyscy obecnie rywalizują ze sobą – mówi Harris, opisując zasadniczy problem, „walkę o naszą uwagę”. Technologia nie rozwija się arbitralnie, lecz reaguje na innowacje konkurencji własnymi innowacjami. Jednym z nieprzyjemnych skutków ubocznych tej spirali jest szybkie rozprzestrzenianie się fałszywych wiadomości. – Gniew jest lepszym generatorem czasu ekranowego niż zadowolenie – tłumaczy Harris. Kiedy coś nas zdenerwuje, dzielimy się tym ze znajomymi, informujemy się na kolejnych kanałach i dalej konsumujemy coraz więcej i więcej treści. Odpowiedni algorytm zdaje sobie z tego sprawę i karmi nas bardziej poruszającymi informacjami. Nie zawsze muszą być one fałszywe, ale jedno jest pewne: prawda nie decyduje o tym, co pojawia się na naszych ścianach i osi czasu. –W końcu taki osobisty strumień wiadomości nie jest kontrolowany przez ludzi, ale przez algorytmy – mówi Harris. – Nie zwracają uwagi na to, co jest dla nas dobre i zdrowe. Patrzą na to, co zajmie naszą uwagę na dłużej”.“Potrzebujemy cyfrowej epoki oświecenia.”
Co teraz należy zrobić?
Czy istnieje rozwiązanie tego skomplikowanego dylematu? Harris uważa, że tak. – Po pierwsze, wszyscy musimy lepiej zrozumieć, jak podatne są nasze umysły, abyśmy mogli skuteczniej opierać się niezdrowym działaniom pod wpływem impulsu. W ten sposób etyk designu praktycznie wzywa do zapoczątkowania nowej, cyfrowej epoki oświecenia. – Po drugie, potrzebujemy nowych modeli odpowiedzialności – kontynuuje Harris. –Osoby podejmujące decyzje w wielkich firmach technologicznych muszą być świadome swojej odpowiedzialności. A my musimy być w stanie ją egzekwować. Po trzecie, Harris przekonuje – i to z coraz większym powodzeniem, także w Dolinie Krzemowej – do „prawdziwego renesansu designu”. Ochrona konsumentów powinna być na pierwszym miejscu. Ale należy także umożliwić lub zaproponować użytkownikom mądrzejsze wykorzystanie ich czasu. Potrzebne są wspólne cele. Czego tak naprawdę oczekują użytkownicy w codziennym korzystaniu z mediów społecznościowych? Niekończących się korowodów filmików i gorących dyskusji na forum? Czy raczej aktywnej pomocy w wykorzystaniu cennego czasu z dala od ekranu? – Może to być, na przykład, impuls do zorganizowania improwizowanego przyjęcia, sugestia dotycząca listy gości i wsparcie w zbieraniu zaproszeń – stwierdza Harris.
„To wyścig do głębi pnia mózgu” – Tristan Harris, jako główny prelegent zorganizowanej w przestrzeni cyfrowej konferencji Audi MQ! Innovation Summit 2020, wprawił publiczność w osłupienie.
„To wyścig do głębi pnia mózgu” – Tristan Harris, jako główny prelegent zorganizowanej w przestrzeni cyfrowej konferencji Audi MQ! Innovation Summit 2020, wprawił publiczność w osłupienie.
