Międzynarodowy ruch obywatelski („OFF”) z siedzibą w Hiszpanii ma na celu „promowanie krytycznej refleksji, zaangażowania obywatelskiego i konkretnych działań” w celu przeciwdziałania uzależnienia od technologii cyfrowych. W tym celu opublikował Manifest podpisany przez ponad 300 wybitnych osobistości ze świata nauki, kultury, medycyny, prawa, filozofii i biznesu, który ma zapoczątkować globalny ruch. Poniżej publikujemy jego tekst i zachęcamy do rozpowszechniania i poparcia tej inicjatywy. (red.)
W tej trzeciej dekadzie XXI wieku nasz los niewątpliwie się rozstrzygnie. Czy uda nam się zmierzać ku lepszej cyfrowej przyszłości, czy też pociągnie nas ona w dół, ku najgorszemu? Czy nadal będzie to miejsce, które możemy nazwać domem?
Szoszana Zuboff
Profesor na Uniwersytecie Harvarda
Preambuła
Technologia może być wspaniałym narzędziem dla ludzkości, umożliwiając nam pokonywanie wielu przeszkód i cierpień na przestrzeni wieków. Wierzymy jednak, że dominujący obecnie paradygmat rozwoju technologicznego nie jest w pełni zgodny z interesami ludzkości i pilnie potrzebna jest głęboka zmiana świadomości społecznej, prowadząca do zdecydowanych działań politycznych w celu odzyskania kontroli. Chcemy nadal czerpać korzyści, jakie oferuje technologia, bez konieczności znoszenia jej najbardziej szkodliwych konsekwencji, czy to wynikających z jej założeń, czy braku regulacji.
Znaczna część promowanych obecnie technologii cyfrowych i sztucznej inteligencji (AI) tworzy środowisko, w którym ludzie są bezbronni, a ich wolność i integralność mogą być zagrożone. Ludzie ryzykują, że ich wola zostanie uwarunkowana, nie będą w stanie podejmować autonomicznych decyzji bez ingerencji z zewnątrz, będą żyć w stanie nadzoru, gdzie sprawowana jest intensywna kontrola nad ich życiem, lub będą doświadczać coraz większych trudności w dostępie do prawdy. Jeśli pozwolimy, aby ten model się utrwalił i stał się w pełni dominujący, świat ukształtowany przez niektóre z dzisiejszych technologii może nieodwracalnie stać się światem, w którym nie będzie miejsca dla samej ludzkości, ponieważ dominująca logika nie rozpozna jej unikalnej natury i interesów. Może to nawet doprowadzić do wyginięcia naszego gatunku.
W obliczu tego egzystencjalnego zagrożenia dla ludzkości w niniejszym Manifeście przedstawiamy szereg pilnych środków mających na celu odzyskanie kontroli nad technologią cyfrową i zapewnienie, że nadal będzie ona służyć ludziom, powstrzymując w jak największym stopniu pojawiające się niekorzystne scenariusze.
Manifest
Odzyskajmy kontrolę nad technologią cyfrową
Znajdujemy się w przełomowym momencie historycznym, w którym potencjał technologii rośnie wykładniczo, co stanowi bezprecedensowe wyzwanie w dziejach naszego gatunku.
Gwałtowne wdrażanie technologii, którego jesteśmy świadkami, odbywa się praktycznie bez demokratycznego nadzoru. Ponieważ krótkoterminowe korzyści płynące z wielu innowacji technologicznych są często bardziej widoczne niż związane z nimi ryzyko, pochopne wdrażanie rozwiązań technologicznych – czy to przez osoby prywatne, specjalistów, firmy, agencje rządowe, instytucje edukacyjne itp. – jest pokusą, której trudno się oprzeć, jeśli nie ma wyraźnych barier i protokołów oceniających ich implikacje i zapewniających poszanowanie praw podstawowych oraz brak konfliktu z interesem publicznym.
W tym kontekście odrzucamy pogląd, że stoimy w obliczu nieubłaganego determinizmu technologicznego, w którym możemy być jedynie obserwatorami. Wręcz przeciwnie, jesteśmy przekonani, że musimy działać na rzecz osiągnięcia konsensusu w sprawie stosownego modelu i ram, aby ograniczyć kontrolę technologiczną nad ludźmi, zapewniając, że rozwój technologiczny służy ludzkości, a nie odwrotnie.
Co obserwujemy
Niepokojący trend
Niezależnie od korzyści, jakie obecny rozwój technologiczny oferuje ludzkości pod względem szybkości i wydajności, z niepokojem obserwujemy trzy dynamiki, poprzez które technologia prawdopodobnie wywrze zasadniczy wpływ na ludzi:
1. W miarę jak asymetria między człowiekiem a technologią wzrasta, technologia może być wykorzystywana przez jednostki i organizacje, publiczne lub prywatne, do sprawowania kontroli nad ludźmi w celach komercyjnych, bezpieczeństwa lub innych, ograniczając lub całkowicie unicestwiając wolę, rozeznanie i wolność jednostki.
2. Nasza indywidualna i zbiorowa zależność od infrastruktury cyfrowej stanowi podatność, która może być również wykorzystana do złych celów – przestępczych, terrorystycznych lub ideologicznych – paraliżując, niszcząc lub uszkadzając elementy kluczowe dla naszego istnienia.
3. Im większa autonomia technologii, tym mniejsza kontrola ze strony człowieka. Choć do niedawna maszyny były w dużej mierze sterowane przez ludzi, ich rosnąca złożoność i autonomia oznaczają, że zrozumienie ich działania umyka nawet ich twórcom, a to coraz częściej to oni wydają ludziom polecenia.
Te cechy ewolucji technologicznej już teraz wywierają głęboki wpływ na jednostki i społeczeństwo. Obserwujemy między innymi:
• Głębokie pogorszenie zarówno zdolności skupienia uwagi, jak i zdrowia psychicznego ogółu społeczeństwa – zwłaszcza ludzi młodych – połączone ze wzrostem poczucia osamotnienia i izolacji. [1]
- Alarmujące jest oduczenie się pewnych funkcji wrodzonych istotom ludzkim (takich jak pamięć, orientacja, rozumowanie czy myślenie krytyczne), co jakościowo zmienia ich naturę i zwiększa zależność od technologii. [2]
- Udowodnione zniekształcenia kluczowych procesów wyborczych poprzez kampanie dezinformacyjne napędzane przez duże platformy cyfrowe, zachęcające do silnej polaryzacji społecznej i politycznej. [3]
- Znaczny wzrost kontroli sprawowanej przez państwa autorytarne nad swoimi obywatelami dzięki zaawansowanej sieci nadzoru opartej na coraz bardziej wyczerpującym zbiorze danych osobowych przetwarzanych przy pomocy sztucznej inteligencji. [4]
- Wśród państw demokratycznych występuje również tendencja do gromadzenia i nadmiernego wykorzystywania danych osobowych obywateli oraz naruszania ich prywatności, np. poprzez niewłaściwe wykorzystanie rozpoznawania twarzy. [5]
- Wysoka koncentracja w sektorze technologicznym pozwoliła bardzo niewielkiej liczbie firm sprawować nieproporcjonalnie dużą władzę, co pozwoliło im na zwiększenie wpływu na życie obywateli, kształtując ich zachowania, przekonania i decyzje. Firmy te utrzymują dominującą pozycję również w stosunku do innych firm, a czasem nawet do samych państw. [6]
- Cyberataki przeprowadzane na infrastrukturę krytyczną – taką jak szpitale czy sieci dystrybucji energii elektrycznej – uwypukliły podatność społeczeństwa, w którym wszystkie niezbędne systemy są połączone, a także fakt, że kryteria bezpieczeństwa nie są traktowane wystarczająco priorytetowo podczas projektowania i wdrażania technologii. [7]
- Coraz poważniejszy wpływ na środowisko wynikający z niekontrolowanego wdrażania i intensyfikacji użytkowania technologii: zanieczyszczające wydobycie pierwiastków ziem rzadkich w celu produkcji urządzeń, wykładniczy wzrost liczby satelitów, zwiększona emisja gazów cieplarnianych pochodzenia cyfrowego, intensywne wydobywanie kryptowalut itp. [8]
Te pozornie rozbieżne zjawiska są w rzeczywistości ściśle ze sobą powiązane. Stanowią drugą stronę naszej niekontrolowanej relacji z technologią, której pełnego potencjału nie jesteśmy świadomi.
Czego chcemy uniknąć
Zasady działania
W środowisku, w którym ludzka egzystencja we wszystkich swoich aspektach jest coraz bardziej uwarunkowana technologią, opieramy się następującym zasadom:
• Świat rządzony przez maszyny, w którym technologia osiąga tak wysoki poziom autonomii, że całkowicie wymyka się ludzkiemu pojmowaniu i może prowadzić nas w kierunkach, których nie wybraliśmy.
- Kryteria oparte wyłącznie na optymalizacji zawężają zakres działalności człowieka w taki sposób, że nasz gatunek jest nie tylko marginalizowany, ale także pozbawiony tego, co mogłoby przyczynić się do jego spełnienia.
- Że jest uprawniona do komercjalizacji ludzkiej woli i świadomości, wykorzystując dane osobowe i modele predykcyjne, które ograniczają lub uniemożliwiają każdej osobie rozeznanie, czego chce, a tym samym osłabiają lub unicestwiają jej wolność.
- Prywatne organizacje dysponują wyłącznie technologiami, które zapewniają im trudną do odwrócenia dominującą pozycję i pozwalają im koncentrować władzę, co pozwala im kontrolować lub warunkować bardzo znaczną część życia ludzi.
- Że dozwolone jest dyskryminowanie lub klasyfikowanie jednostek lub grup ludzkich oraz udzielanie lub odmawianie im dostępu do określonych zasobów na podstawie kryteriów ustalonych przez maszyny, na podstawie wykorzystywania danych, które nie są bezpośrednio związane z celem, dla którego dokonano tej kategoryzacji, co prowadzi do sytuacji arbitralnych, nieprzejrzystych i bez możliwości odwołania.
- Niezdolność do zidentyfikowania sztucznej natury maszyny, powodująca mylenie człowieka z istotą nieludzką. Wykorzystanie technologii, które celowo przedstawiają sztuczne wizerunki ludzkie jako prawdziwe.
- Państwa wykorzystują technologię do wywierania nadmiernej i powszechnej kontroli nad swoimi obywatelami, a w szczególności nadużywają rozpoznawania twarzy lub technologii, które nie gwarantują anonimowości w przestrzeni publicznej; lub roszczą sobie prawo do śledzenia ruchów, transakcji lub jakichkolwiek aspektów ludzkiej aktywności.
- Wdrażanie technologii o znaczeniu systemowym bez podjęcia wystarczających środków bezpieczeństwa, co może stwarzać podatność na ataki na dużą skalę.
- Coraz bardziej dwoista ludzkość , w której decyzja jednej części populacji o połączeniu się z maszyną de facto zmusiłaby całość do zrobienia tego samego lub skazałaby jej część na podporządkowanie się tej pierwszej.
Krótko mówiąc, uważamy, że musimy stworzyć środowisko, które szanuje wyjątkową naturę istot ludzkich i minimalizuje ryzyko wykorzystania technologii w celu ich wyobcowania i ograniczenia ich wolności.
Co proponujemy
Apel do władz i społeczeństwa
Manifest ten nie ma na celu w żaden sposób sprzeciwiać się rozwojowi technologicznemu, którego zalety uznajemy, ale raczej rzucić wyzwanie władzom politycznym i społeczeństwu obywatelskiemu, pytając o cenę, jaką płaci ludzkość, i ryzyko, jakie podejmuje, jeśli nadal będzie akceptować paradygmat wdrażania technologii bez rozwagi i kontroli demokratycznej, a także wzywając do podjęcia pilnych działań w celu zminimalizowania tych kosztów.
Aby zachować wolność i godność jednostki jako fundamentalne wartości w kontekście rosnącej asymetrii między technologią a istotami ludzkimi,
demokracje muszą gruntownie przebudować swój repertuar działań i bardziej zdecydowanie bronić tych praw. Wysiłki niektórych państw lub regionów, zarówno w obszarze ochrony danych, jak i w opracowywaniu kart lub deklaracji dotyczących ochrony praw cyfrowych (Hiszpańska Karta Praw Podstawowych z 2021 r., Deklaracja Europejska z 2023 r. lub Karta Iberoamerykańska z marca 2023 r.), są godne pochwały, ale muszą zostać zintensyfikowane i rozszerzone.
Zdajemy sobie sprawę, że stanowi to realne wyzwanie dla systemów politycznych, które zazwyczaj opierają się na jednostkach w regulowaniu spraw uznawanych za prywatne. Mamy jednak do czynienia z technologiami, których ubocznym skutkiem jest zniesienie wolności jednostki i wpływ na to, co czyni nas ludźmi. Rozumiemy również, że równowaga ekonomiczna i geostrategiczna w dużej mierze opiera się na konkurencyjności technologicznej, która zniechęca do podejmowania jakichkolwiek działań, które mogłyby być postrzegane jako ograniczenie rozwoju technologicznego. Dlatego to egzystencjalne wyzwanie wymaga bezprecedensowych rozwiązań, wykraczających poza proste, nieformalne zalecenia.
Niezależnie od poziomu działań politycznych, zmiana paradygmatu nastąpi tylko wtedy, gdy rozwinie się autentyczna mobilizacja obywateli, wywierająca niezbędną presję, aby umieścić tę kwestię na szczycie listy priorytetów politycznych. Obecnie opinia publiczna jest bardziej wyczulona na krótkoterminowe korzyści rozwoju technologicznego niż na jego często pomijane zagrożenia. Potrzebne są przestrzenie debaty i wymiany między parlamentem a społeczeństwem obywatelskim, aby rozważyć ryzyko i korzyści wynikające z panującego paradygmatu technologicznego oraz wspólnie zdefiniować wartości, które powinny kierować i kształtować rozwój technologiczny.
Proponujemy rozważenie szerokiego wachlarza środków mających na celu stawienie czoła stojącym przed nami wyzwaniom, w tym:
1. Prawnie wiążące środki regulacyjne, w tym:
• Zakaz mikrotargetowania reklam.
• Konstytucyjna i transnarodowa ochrona praw neuronalnych (zakaz dostępu do naszej aktywności neuronalnej i zbierania danych z możliwością ingerencji w naszą aktywność umysłową).
• Wspieranie międzynarodowego prawodawstwa zakazującego autonomicznej broni śmiercionośnej.
• Dążenie do „deeskalacji technologicznej” w obszarach, w których technologia ma udowodniony negatywny wpływ na ogół społeczeństwa, a jej wdrożenie wiąże się ze znacznym ryzykiem dla całej populacji.
• Prawo do odłączenia, które gwarantuje dostęp do usług – zwłaszcza publicznych – w sposób niedigitalny.
• Obowiązek udostępniania przez firmy technologiczne danych, które umożliwiają osobom trzecim, w ramach dozwolonych prawem, autonomiczną analizę funkcjonowania ich platform i algorytmów.
• Rozszerzenie protokołów mających na celu sprawdzenie etycznej przydatności algorytmów wykorzystywanych przez firmy i rządy.
2. Działania związane z produkcją przemysłową i marketingiem, takie jak:
• Ponowne wprowadzenie i ponowna ocena funkcjonalności OFF w projektowaniu aplikacji i urządzeń technologicznych.
• Surowe procedury regulacyjne obowiązujące przed wprowadzeniem na rynek niektórych technologii o rewolucyjnym wpływie, co ma już miejsce w takich sektorach jak farmaceutyczny czy spożywczy.
• Działania mające na celu szkolenie, informowanie i wzmacnianie pozycji konsumentów, inwestorów i profesjonalistów, aby zwiększyć ich wymagania co do zgodności technologii z ich prawami i interesami.
3. Działania w zakresie badań i edukacji, takie jak:
• Moratorium na nieograniczone wprowadzanie technologii do szkół poniżej pewnego wieku.
• Więcej szkoleń w różnym wieku na temat programowania i ogólnego funkcjonowania algorytmów w celu zmniejszenia asymetrii między technologią a ludźmi.
• Działania systematyczne skierowane do grupy rodziców i/lub opiekunów mające na celu podniesienie świadomości na temat zagrożeń, na jakie narażeni są młodzi ludzie.
• Promowanie pogłębionych badań nad wpływem konkretnych technologii na jednostkę i społeczeństwo, szczególnie w kwestiach poznawczych, na zachowanie, dobre samopoczucie i wolność.
• Dostosowanie korzystania z urządzeń do wieku użytkowników, w szczególności smartfonów i innych urządzeń podłączonych do sieci.
Regulacja innowacji technologicznych jest złożona i, obok kryzysu ekologicznego, stanowi fundamentalne wyzwanie stojące przed ludzkością. Kwestia ta jest zbyt ważna, by pozwolić debacie stanąć w miejscu, w którym panują partyjne stanowiska. Nie można zwlekać z podjęciem działań tak długo, jak w przypadku środowiska, jeśli chcemy uniknąć sytuacji, z której nie ma odwrotu. Dlatego pilnie potrzebny jest konsensus, aby wdrożyć szybkie i wystarczająco skuteczne środki, które sprostają skali wyzwania i wykorzystają wszystkie jego korzyści, nie ponosząc przy tym wygórowanych kosztów, jak gdyby było to nieuniknione.
Zróbmy jak najszybciej to, co konieczne, aby ludzkość mogła wziąć sprawy w swoje ręce i zapewnić sobie przetrwanie jako wolny gatunek.
Całość z załącznikami - https://www.offm.org/manifesto-old#anchors-ltmyh58k1