ESA 2026 w SGGW. Socjologia wobec wyzwań współczesnego świata

Tegoroczna konferencja ESA stawia w centrum pytanie o kondycję współczesnych społeczeństw i wzmacnianie demokracji. Co z perspektywy Pani/Pana badań jest dziś jedną z najważniejszych zmian społecznych, której powinniśmy przyglądać się szczególnie uważnie?   

Tak, demokracja wymaga dzisiaj naszej szczególnej uwagi, zwłaszcza gdy myślimy o demokracji nie tylko jako systemie politycznym, instytucjach czy procesach wyborczych. Demokracja to przede wszystkim głębokie przekonania ludzi, ich postawy wobec innych, wobec władzy. Pzekonania na temat zasad, jakimi powinniśmy się kierować w codziennym życiu w społeczeństwie. Z tych przekonań wynikają konkretne działania. Jeśli jesteśmy przekonani, że ludzie mają równe prawa, to będziemy gotowi słuchać się nawzajem i szukać rozwiązań, które pozwolą nam żyć obok siebie, żyć razem i próbować zaspokajać różne potrzeby tak, by wszystkim przynosiło to korzyść a nie konflikty czy krzywdę. Ale jeśli jesteśmy przekonani, że tylko my mamy rację, prawa itd., to sytuacja wygląda zupełnie inaczej. Tak rozumiana demokracja – czyli przekonania, postawy, świadomość - wymaga szczególnej uwagi, jeśli chodzi o komunikację. To poprzez komunikację kształtujemy i wyrażamy nasze poglądy. W demokracji mówienie (pisanie, postowanie) jest działaniem politycznym. 

Koncepcja retorycznego obywatelstwa (rhetorical citizenship), którą Pani przywołuje w swoim badaniu, zakłada, że codzienne praktyki komunikacyjne i dyskursywne kształtują poczucie obywatelskiej sprawczości. Jakie warunki powinna zatem spełniać dyskusja publiczna, zarówno w przestrzeni fizycznej (np. podczas konsultacji), jak i online (np. na platformach partycypacyjnych), aby nie pogłębiała polaryzacji i kryzysu zaufania, lecz realnie wzmacniała podmiotowość mieszkańców oraz odporność lokalnej demokracji?  

Teoretycznie wszystko jest już opisane: jeśli uczestnicy są traktowani jako równi, wszyscy uznają, że inni mają takie samo prawo do wypowiedzi i formułowania swoich oczekiwań czy żądań, wszyscy uzasadniają swoje oczekiwania i żądania, odwołując się do rzeczowych argumentów i wspólnego dobra, wszyscy szanują i słuchają się nawzajem, wszyscy mówią w sposób jasny i zrozumiały... W praktyce jednak takie sytuacje zdarzają się niezwykle rzadko. Zazwyczaj jest za mało czasu, żeby wszyscy mogli się wypowiedzieć, często ktoś stara się zdominować dyskusję, nie mamy takiej samej wiedzy, emocje utrudniają nam wyrażanie tego, co chcemy przekazać i często uniemożliwiają usłyszenie tego, co naprawdę mówi druga osoba. Zawsze mamy do czynienia z dwoma wyzwaniami: zewnętrznymi i wewnętrznymi. Zewnętrzne to wszystkie okoliczności, w których dyskutujemy – czas, miejsce, moderatorzy, cel dyskusji. To, co obserwowaliśmy w toku naszych badań, prowadzi do wniosku, że nawet w najlepszych warunkach dyskusja może być trudna, a jednocześnie czasem zdarzają się fantastyczne debaty niejako przypadkowo i wydawałoby się w niekorzystnych okolicznościach. Kluczowe jest na pewno zapewnienie różnorodności form i kanałów komunikacji. Potrzebujemy spotkań na żywo i online, w różnych porach dnia i tygodnia (choć nigdy nie uda się dopasować do wszystkich, rzecz jasna).  Bardzo dużym wyzwaniem jest przedstawienie samego tematu dyskusji - czasem jest on bowiem bardzo trudny i specjalistyczny, osobom, które zajmują się daną tematyką na co dzień może się wydawać, że wszystko jest oczywiste, ale dla innych może to być niezrozumiałe. I tu przechodzimy do czynników wewnętrznych - z czym uczestnicy dyskusji przychodzą, jaką mają wiedzę, jak są nastawieni do tematu i do pozostałych uczestników. Zaufanie, otwartość, krytyczne myślenie i uznanie reguł - to są najważniejsze elementy. Zaufanie to założenie, że uczestnicy nie mają złych intencji. Mogą mieć zupełnie innych punkt widzenia, mieć własne interesy i bronić ich, ale nie oznacza to, że chcą czegoś złego dla nas, że chcą nas skrzywdzić czy oszukać. To podstawowe założenie może całkowicie zmienić sytuację. Otwartość to gotowość do wysłuchania stanowiska innych, gotowość do zrozumienia, że czegoś potrzebują, czegoś się boją, czegoś chcą/nie chcą. Otwartość to także gotowość do zmiany własnej opinii, czasem do uznania, że moja dotychczasowa wiedza nie pozwalała mi czegoś zrozumieć czy dostrzec. Krytyczne myślenie chroni przed manipulacją, każe pytać, czy ten argument ma sens, co tak naprawdę chce powiedzieć dana osoba. I wreszcie uznanie reguł, to jest bardzo silnie powiązane ze sprawczością - uczestniczę w dyskusji i wiem, jakie są jej zasady, jakich zachowań mam prawo oczekiwać od innych, jakie mogą być skutki tych dyskusji. O ile w w formalnych wydarzeniach, typu konsultacje w gminie większość tych reguł jest narzucana z góry, o tyle w mniej formalnych okolicznościach, a zwłaszcza w dyskusji online reguły tworzą się w toku rozmowy, to uczestnicy – często prawie nieświadomie - ustalają, na co godzą, a co jest niedopuszczalne.  

Konsultacje dotyczące Planu Ogólnego i Strategii 2040+ wywołują wśród mieszkańców silne emocje oraz konkretne obawy dotyczące zagęszczania zabudowy, utraty miejsc parkingowych czy pogorszenia jakości życia w swoim najbliższym otoczeniu. Z perspektywy analizy transkrypcji spotkań, które strategie retoryczne stosowane przez urzędników i mieszkańców najczęściej prowadziły do eskalacji nieporozumień i polaryzacji, a które praktyki komunikacyjne pozwalały skutecznie odpowiadać na obawy mieszkańców oraz przekształcać konflikt interesów w konstruktywny kompromis? 

Konsultacje świetnie pokazały to współoddziaływanie czynników zewnętrznych i wewnętrznych, o których mówiłam przed chwilą. Analizowaliśmy spotkania online, które odbywały się późnym popołudniem i trwały kilka godzin dłużej niż były planowane.  Spotkanie odbywało się na platformie zoom, gdzie uczestnicy mogli na żywo zadawać pytania oraz a YouTube, gdzie można było pisać pytania na czacie i moderator przekazywał je urzędnikom. Tę formę - online - mieszkańcy wskazywali najczęściej we wcześniej przeprowadzonych przez miasto badaniach. Były osoby, które bardzo cieszyły się z takiej możliwości, mówiły o dogodnym czasie, o tym, że osobom nieśmiałym łatwiej jest zabrać głos w takich warunkach. Na kamerkach widać było rodziców, którzy gdzieś przy kuchennym stole, karmiąc dziecko jednocześnie brali udział w konsultacjach. Było też wielu seniorów, bardzo zaangażowanych w dyskusję. Oprócz spotkań online dla poszczególnych dzielnic, były też spotkania na żywo, były dyżury telefoniczne i możliwość bezpośredniego spotkania. Zadbano zatem o zróżnicowanie form. Nie brakowało jednak głosów krytycznych, że spotkań było za mało, że za późno o nich informowano, że godziny były niedobre itd. Spotkania zaczynały się od bardzo długiej i drobiazgowej prezentacji, którą przedstawiali urzędnicy. Była to – z komunikacyjnego punktu widzenia - całkiem nieźle przygotowana prezentacja, na pewno zawierała wyczerpujące informacje. Była jednak zdecydowanie za długa, a język, jakim posługiwali się urzędnicy, był często zbyt specjalistyczny. Później następowała seria pytań. Na początku spotkania osoba moderująca informowała, że można jednorazowo zadać trzy pytania, nie ma ograniczeń (poza czasowymi), ile razy zabierze się głos. W praktyce w ciągu kilkugodzinnego spotkania kilkanaście osób zadawało pytania, zdarzało się, że te same osoby zadawały te same pytania na różnych spotkaniach. Najtrudniejsze były sytuacje, w których pojawiało się ze strony mieszkańców założenie, że urzędnicy chcą ich celowo zmanipulować lub oszukać. To założenie złej woli powodowało, że pytania były zadawane czasem w dość agresywny sposób i żadna odpowiedź nie była przyjmowana dobrze. Tym, co utrudniało też porozumienie, była nieumiejętność zrozumienia perspektywy drugiej strony. Mieszkańcy czasem nie przyjmowali do wiadomości, że urzędnicy są zobowiązani do jakichś działań albo nie mogą czegoś zrobić ze względu na obowiązujące prawo i reguły, których sami nie wymyślali. Urzędnicy czasami nie odczytywali emocjonalnej warstwy wypowiedzi. Być może wystarczyłoby zdanie: rozumiemy, że to jest dla Pana/Pani bardzo ważna sprawa, że się Pan/i niepokoi.  Zamiast tego pojawiał się długi i specjalistyczny wywód, po którym mogło zostać wrażenie, że urzędnik właściwie nie odpowiedział na pytanie. Z drugiej strony uczestnicy zadawali też bardzo długie pytania, co można - zwłaszcza gdy zbliżała się 22.00 - byłoby interpretować jako nieszanowanie czasu innych, choć jednocześnie było to na pewno istotne dla tych osób, jako jedyna szansa na wypowiedź.  Trudnością było także oczekiwanie niektórych uczestników co do skutków konsultacji. Jeśli spodziewamy się, że na spotkaniu każdy dostanie ciastko, a w rzeczywistości rozmowa ma dotyczyć tego, gdzie można wybudować piekarnię - rozczarowanie jest zrozumiałe.  A zatem brak zaufania z jednej strony i zbyt specjalistyczna komunikacja to dwie największe przeszkody w porozumieniu, jakie zaobserwowaliśmy. Trzeba też pamiętać, że w spotkaniach uczestniczy wiele osób i że nie można oceniać całości przez pryzmat jednego czy dwóch najgłośniejszych lub najaktywniejszych uczestników. Gdy badaliśmy komentarze online, okazało się, że najbardziej agresywne, wręcz wulgarne, pojawiały się w czasie spotkania na żywo, dla wszystkich mieszkańców miasta. To spotkanie też było transmitowane na YouTube i można je było na bieżąco komentować. Ta agresja była zaskakująca, ponieważ w czasie spotkań dzielnicowych dominowały rzeczowe, merytoryczne komentarze. Gdy przyjrzałam się temu bliżej, okazało się, że to jedna osoba była bardzo aktywna i bardzo negatywnie nastawiona nie tyle do tematu konsultacji, co do władz miasta generalnie i wyrażała to poprzez agresywne, obraźliwe komentarze. Z perspektywy ilościowej moglibyśmy powiedzieć, że odbiór online spotkania był bardzo negatywny. Ale nie byłaby to prawda o spotkaniu. 

W wystąpieniu porównuje Pani dyskusje dotyczące budżetu partycypacyjnego z lat 2015 i 2025, wskazując na wyraźny spadek zaangażowania mieszkańców. W jaki sposób zmiana stylu wypowiedzi na platformie e-partycypacji odzwierciedla ewolucję nastrojów społecznych? Czy w dyskursie online przeważa rozczarowanie rezultatami, poczucie pozorności procesu, czy może zmęczenie formułą cyfrowej partycypacji? 

Wykorzystanie narzędzi online w procesach partycypacji to bardzo popularny temat, od kilkunastu lat badacze na całym świecie pełni nadziei opisują, jak platformy cyfrowe pomogą zwiększyć aktywność obywateli. Dzisiaj możemy już sprawdzać, jak to działa naprawdę. Warszawski Budżet Obywatelski jest świetnym przykładem, ponieważ pokazuje jak przez lata działa to samo narzędzie. Zaczęliśmy nasze analizy od porównania najnowszych dyskusji na platformie BO i dyskusji w mediach społecznościowych (Facebooku). To oczywiście dwie zupełnie inne sytuacje, Facebooka przeglądamy na co dzień, informacja o BO może się nam pojawić przy okazji. Na platformę miejską musimy zajrzeć celowo. Na Facebooku dyskusje dotyczą budżetu tak w ogóle lub konkretnego projektu, którym miasto właśnie się pochwaliło na profilu.  Na platformie budżetu dyskutować można tylko o konkretnych projektach. Platforma ta pozwala też na większą anonimowość użytkowników (wobec innych uczestników dyskusji). Okazało się, że zdecydowana większość komentarzy pod konkretnymi projektami ma charakter pozytywny i wspierający. Na Facebooku dominowała krytyka, budżetu w ogóle i wybranych projektów. Najmocniej wybrzmiewającym (na Facebooku) zarzutem było "zagarnięcie budżetu obywatelskiego przez radnych". Niektórzy komentujący (i znów powtarza się sytuacja, o której wspomniałam wcześniej - to są dwie, trzy osoby, które komentują bardzo dużo i bardzo często, co sprawia, że ich punkt widzenia wydaje się dominujący) krytykują to, że radni w ogóle mogą zgłaszać pomysły do budżetu obywatelskiego, skoro mają do dyspozycji całą resztę budżetu dzielnicy. Urzędnicy wyjaśniają, że obecne przepisy nie pozwalają na wykluczenie mieszkańca tylko dlatego, że pełni funkcję radnego. Inni komentujący dodają, że przecież zdarza się, że ktoś jest aktywny, zgłasza pomysły i potem zostaje radnym albo że radny zgłasza projekty w imieniu mieszkańców. Tak czy inaczej na pewno przez lata funkcjonowania budżetu pojawiła się grupa osób, których pomysły nie były zakwalifikowane do głosowania, nie zostały wybrane w głosowaniu, nie zostały zrealizowane zgodnie z oczekiwaniami. To jest rozczarowujące. Jednoczenie przez lata zmieniały się też zasady, według których budżet działał. Te pierwsze edycje budziły zainteresowanie mieszkańców jako pewna nowość i nowa możliwość działania, również online. Dyskusje z 2015 czy 2016 roku to długie komentarze, z mnóstwem informacji, porad, pytań. W 2026 roku mamy bardzo wiele komentarzy typu: świetny pomysł, popieram, zagłosuję. Być może na początku było więcej entuzjazmu, pojawiały się też takie zdania: to na początek, od czegoś trzeba zacząć, jak to się sprawdzi, w przyszłym roku zgłosimy więcej. Dzisiaj Budżet Obywatelski stał się pewną rutyną, stracił urok nowości.  Stracił też - w wyniku zmian w ogólnopolskim prawie – elementy dyskusji nad projektami. W pierwszych edycjach odbywały się spotkania, na których autorzy przedstawiali swoje projekty. Obecnie nie trzeba nad nim dyskutować, wystarczy zagłosować. Przestrzenią dyskusji pozostała platforma, ale mieszkańcy nie do końca wykorzystują jej możliwości. I jeszcze jedna obserwacja – w 2015 roku dyskutujący narzekali na "głupich, durnych ludzi", którzy nie sprzątają po swoim psie, niszczą place zabaw, zostawiają po sobie brudną toaletę, śmiecą w lesie itd., zgłaszane projekty miały ich edukować i wyrabiać dobre nawyki. W 2025 roku komentujący narzekają na zgłaszających projekty (że robią to niewłaściwie, dla zysku, nie znając realiów dzielnicy) albo na urzędników (że źle oceniają projekty lub wymuszają niepożądane zmiany).  

dr hab. Urszula Soler, prof. SGGW

Tegoroczna konferencja ESA stawia w centrum pytanie o kondycję współczesnych społeczeństw i wzmacnianie demokracji. Co z perspektywy Pani/Pana badań jest dziś jedną z najważniejszych zmian społecznych, której powinniśmy przyglądać się szczególnie uważnie? 

Mam wrażenie, że jeszcze kilka lat temu sztuczna inteligencja była dla większości z nas czymś dość odległym. Wiedzieliśmy, że istnieje, czasami nawet z niej korzystaliśmy, choć nie zawsze zdawaliśmy sobie z tego sprawę. Dzisiaj jest inaczej. AI weszła do naszego codziennego życia szybko i właściwie bez pytania. Podpowiada nam, co przeczytać, gdzie pojechać, co kupić, pomaga napisać tekst, rozpoznaje naszą twarz w telefonie. Coraz częściej także wspiera decyzje znacznie poważniejsze. I chyba właśnie ta zmiana interesuje mnie najbardziej. W swoich badaniach zajmuję się między innymi relacją człowieka z technologią, ostatnio szczególnie w kontekście sztucznej inteligencji i biometrii. Im dłużej się temu przyglądam, tym bardziej przekonuje się, że najważniejsze pytanie wcale nie brzmi: czy AI będzie od człowieka lepsza? Znacznie ciekawsze jest to, co stanie się z nami, kiedy przyzwyczaimy się, że maszyna podpowiada nam, co mamy zrobić. Kiedy jej zaufamy? Kiedy przestaniemy sprawdzać jej decyzje? A kiedy powiemy: nie, tutaj chcę, żeby zdecydował człowiek?

W przypadku biometrii widać to szczególnie wyraźnie. Otwieram telefon, patrząc na ekran, i po sekundzie jestem rozpoznana. Jest to wygodne, więc właściwie nie zastanawiam się nad tym, co wydarzyło się w tej jednej sekundzie. Sytuacja wygląda jednak zupełnie inaczej, gdy podobny system ma zdecydować, czy osoba stojąca na granicy jest rzeczywiście tym, za kogo się podaje, albo czy twarz zarejestrowana przez kamerę należy do osoby poszukiwanej. Nagle błąd algorytmu przestaje być drobną niedogodnością. Może mieć on bardzo konkretne konsekwencje dla konkretnego człowieka. I właśnie tutaj technologia spotyka się z socjologią. Bo nie chodzi już tylko o skuteczność algorytmu. Chodzi o zaufanie, odpowiedzialność, kontrolę, poczucie bezpieczeństwa, ale również o władzę. Kto podejmuje ostateczną decyzję? Czy człowiek rzeczywiście kontroluje system, czy tylko zatwierdza to, co podpowiedziała mu maszyna? Czy potrafi powiedzieć jej „nie”? I wreszcie, kto odpowiada, kiedy oboje się pomylą?

Myślę, że z punktu widzenia kondycji demokracji właśnie tej zmianie powinniśmy przyglądać się szczególnie uważnie. Demokracja potrzebuje zaufania, ale potrzebuje też możliwości zadawania pytań, kwestionowania decyzji i wskazania osoby lub instytucji, która ponosi za nie odpowiedzialność. Jeżeli coraz więcej decyzji będziemy podejmować wspólnie z maszynami, musimy nauczyć się nie tylko z nimi współpracować. Musimy też wiedzieć, kiedy im nie zaufać. I chyba właśnie to będzie jednym z ważniejszych społecznych wyzwań najbliższych lat.

Wiele osób nadal unika płatności kartą lub telefonem z obawy przed wyciekiem danych, śledzeniem transakcji i utratą prywatności. Obawy te są jeszcze większe w przypadku biometrii, ponieważ dotyczą ochrony wizerunku oraz ryzyka jego wykorzystania przez sztuczną inteligencję. W jaki sposób proponowany przez Panią model nadzoru człowiek–maszyna może rozwiać te wątpliwości i zagwarantować obywatelom, że ich tożsamość nie zostanie bezprawnie wykorzystana przez systemy AI do manipulacji, na przykład poprzez deepfake lub spoofing?

Chyba wszyscy znamy kogoś, kto nadal woli mieć w portfelu gotówkę. Nie dlatego, że nie potrafi zapłacić kartą czy telefonem. Po prostu gotówka daje mu poczucie kontroli. Płacę, chowam resztę do portfela i transakcja się kończy. W świecie cyfrowym nie jest to już takie oczywiste. Zostaje ślad, dane gdzieś wędrują, ktoś je przechowuje i przetwarza. Często nie bardzo wiemy kto, jak długo i w jakim celu.

Z biometrią jest jeszcze trudniej, bo tutaj walutą staje się w pewnym sensie nasze ciało. Hasło mogę zmienić, kartę mogę zastrzec, numer telefonu również mogę zmienić, choć pewnie z pewnym trudem. Ale twarzy, odcisku palca czy tęczówki oka nie wymienię na nowe, kiedy dowiem się, że moje dane zostały przejęte. I myślę, że właśnie dlatego obawy związane z biometrią są czymś zupełnie naturalnym. Do tego pojawiła się sztuczna inteligencja, która sprawiła, że problem stał się jeszcze bardziej skomplikowany. Zdjęcie nie jest już tylko zdjęciem. Głos nie musi należeć do osoby, którą słyszymy. Obraz człowieka może zostać przetworzony, odtworzony albo wykorzystany do stworzenia bardzo przekonującego deepfake'u. Z drugiej strony ta sama sztuczna inteligencja może pomagać wykrywać fałszerstwa, presentation attacks czy próby spoofingu. Technologia jest więc jednocześnie częścią problemu i częścią rozwiązania. I właśnie tutaj widzę miejsce dla modelu Human Machine Teaming, którym się zajmuję. Nie chodzi w nim o prostą zasadę, że człowiek jest lepszy od maszyny i powinien sprawdzać każdą jej decyzję. Nie chodzi też o sytuację odwrotną, w której uznajemy, że skoro algorytm jest bardzo skuteczny, możemy spokojnie pozostawić mu podejmowanie decyzji. Interesuje mnie to, co dzieje się pomiędzy tymi dwoma skrajnościami.

Wyobraźmy sobie system, który ma potwierdzić moją tożsamość. Algorytm porównuje dane biometryczne, analizuje obraz i ocenia prawdopodobieństwo zgodności. Jeżeli wynik jest jednoznaczny, a sytuacja nie budzi wątpliwości, proces może przebiegać automatycznie. Ale jeśli pojawia się anomalia, niska pewność dopasowania, podejrzenie manipulacji obrazem albo sygnał wskazujący na próbę spoofingu, system nie powinien po prostu powiedzieć „tak” albo „nie”. Powinien powiedzieć człowiekowi: „nie jestem pewien, sprawdź to”.

To właśnie ten moment jest dla mnie najciekawszy. Maszyna powinna wiedzieć, kiedy potrzebuje człowieka, ale człowiek musi również wiedzieć, kiedy nie powinien bezkrytycznie zaufać maszynie. Dlatego mówię o współpracy, a nie tylko o nadzorze. Oczywiście sam człowiek włączony w proces nie zagwarantuje bezpieczeństwa. Możemy przecież stworzyć system, w którym operator jedynie mechanicznie zatwierdza kolejne rekomendacje algorytmu. Znamy z badań zjawisko automation bias, czyli tendencję do nadmiernego polegania na automatyzacji. Jeżeli człowiek sto razy zobaczy poprawną odpowiedź systemu, za sto pierwszym razem może już jej naprawdę nie sprawdzić. Dlatego skuteczny nadzór musi być znaczący. Człowiek musi mieć informacje potrzebne do oceny wyniku, znać ograniczenia systemu, rozumieć poziom jego niepewności i przede wszystkim mieć realną możliwość zatrzymania procesu albo zakwestionowania rekomendacji AI.

Ale jest jeszcze jedna rzecz. Nie chciałabym obiecywać, że taki model „zagwarantuje” obywatelom, że ich dane biometryczne nigdy nie zostaną wykorzystane bezprawnie. Żaden uczciwy badacz nie może dać takiej gwarancji. Możemy natomiast projektować system w taki sposób, aby bezprawne wykorzystanie było znacznie trudniejsze, możliwe do wykrycia i żeby zawsze można było ustalić, kto oraz na jakiej podstawie podjął określoną decyzję. I tu wracamy do demokracji. Dla mnie bezpieczeństwo biometrii nie oznacza wyłącznie tego, że system prawidłowo rozpozna moją twarz. Oznacza również, że wiem, kto korzysta z moich danych, po co to robi, jak długo je przechowuje, kto może zakwestionować decyzję systemu i kto odpowiada, jeśli coś pójdzie nie tak. Dopiero wtedy możemy mówić nie tylko o skutecznej technologii, ale o technologii, której jako społeczeństwo możemy rozsądnie zaufać.

Hasło “biometria” często kojarzone jest z chińskim systemem zaufania społecznego (Social Credit System), który przedstawiany jest przede wszystkim jako narzędzie totalnej kontroli i algorytmicznego decydowania o prawach obywateli. Pani projekt podkreśla istotę społecznie godnych zaufania systemów biometrycznych oraz postuluje, że technologia powinna wspierać ludzki osąd, a nie zdejmować z nas odpowiedzialność. W jaki sposób proponowany przez Panią model nadzoru człowiek–maszyna oraz obecność eksperta w procesie decyzyjnym (human-in-the-loop) mogą być skutecznym zabezpieczeniem, chroniącym demokratyczne społeczeństwa przed stronniczością algorytmów i przekształceniem weryfikacji tożsamości w narzędzie opresyjnego nadzoru? 

Kiedy słyszymy o biometrii wykorzystywanej przez państwo, bardzo łatwo uruchamia się wyobraźnia. Kamery rozpoznające twarze, ogromne bazy danych, algorytm, który wie, gdzie byliśmy, z kim się spotkaliśmy i co robiliśmy, a następnie na tej podstawie podejmuje decyzję dotyczącą naszego życia. Chiny i ich Social Credit System stały się wręcz symbolem takich obaw. Przy czym warto od razu zaznaczyć, że rzeczywisty chiński system jest znacznie bardziej złożony i mniej jednolity, niż sugeruje jego popularny obraz jako jednego algorytmu przyznającego każdemu obywatelowi punkty. Dla mnie ważniejsze jest jednak pytanie, dlaczego ten obraz tak bardzo nas niepokoi. Myślę, że nie chodzi wyłącznie o samą technologię. Boimy się przede wszystkim sytuacji, w której tracimy kontrolę nad tym, co dzieje się z informacją o nas. Nie wiemy, dlaczego system uznał nas za osobę podejrzaną, nie możemy zakwestionować jego decyzji, nie wiemy, kto za nią odpowiada. Człowiek zaczyna być wtedy sprowadzany do zestawu danych, a decyzja dotycząca jego życia staje się wynikiem procesu, którego on sam nie jest w stanie zrozumieć. I właśnie przed takim sposobem wykorzystania technologii powinien chronić dobrze zaprojektowany Human Machine Teaming.

W proponowanym przeze mnie modelu system biometryczny nie jest podmiotem podejmującym ostateczną decyzję. Jest narzędziem, które pomaga człowiekowi ją podjąć. Może w ciągu sekundy porównać tysiące obrazów, wykryć podobieństwo twarzy, zauważyć anomalię albo wskazać prawdopodobieństwo manipulacji. Ale wynik takiej analizy nie powinien automatycznie stawać się decyzją dotyczącą konkretnego człowieka, szczególnie wtedy, kiedy konsekwencje mogą być poważne. Wyobraźmy sobie bardzo prostą sytuację. System rozpoznawania twarzy wskazuje, że osoba zarejestrowana przez kamerę z dużym prawdopodobieństwem jest osobą poszukiwaną. To jest cenna informacja. Ale między komunikatem „algorytm wykrył podobieństwo” a stwierdzeniem „to jest ta osoba” istnieje ogromna różnica. Właśnie w tej przestrzeni powinien pojawić się człowiek. Ekspert powinien sprawdzić jakość materiału, poziom pewności systemu, inne dostępne informacje, możliwość błędu i dopiero na tej podstawie dokonać oceny.

Jednocześnie bardzo uważałabym ze stwierdzeniem, że sama obecność człowieka rozwiązuje problem stronniczości algorytmów. Człowiek również popełnia błędy. Ma swoje uprzedzenia, działa pod presją czasu, może nadmiernie ufać technologii. Jeżeli jego rola sprowadza się do kliknięcia przycisku „zatwierdź”, mamy człowieka w procesie technicznym, ale nie mamy rzeczywistego ludzkiego nadzoru. Human in the loop ma sens dopiero wtedy, kiedy człowiek rozumie, co ocenia, ma dostęp do informacji o ograniczeniach systemu i może rzeczywiście powiedzieć algorytmowi „nie”. Jest jeszcze jeden problem, który z socjologicznego punktu widzenia wydaje mi się szczególnie ważny. Nawet najlepiej zaprojektowany system Human Machine Teaming nie ochroni demokracji, jeżeli zaczniemy wykorzystywać biometrię do celów, do których nigdy nie powinna być wykorzystywana. Możemy stworzyć niezwykle dokładny, transparentny i świetnie nadzorowany system rozpoznawania twarzy, a następnie użyć go do masowego śledzenia obywateli. Technologia będzie działała znakomicie, tylko społeczne zastosowanie będzie niewłaściwe. Dlatego bezpieczeństwo widzę tutaj szerzej niż samo human in the loop. Potrzebujemy człowieka kontrolującego decyzję maszyny, ale potrzebujemy również prawa, kontroli instytucjonalnej, audytów, jasnego określenia celu wykorzystania danych i realnej możliwości odwołania się od decyzji. Musimy też potrafić powiedzieć, że pewnych zastosowań technologii po prostu nie akceptujemy, nawet jeśli technicznie są możliwe.

I chyba właśnie tutaj przebiega dla mnie jedna z najważniejszych granic między technologią wspierającą demokratyczne społeczeństwo a technologią, która może stać się narzędziem kontroli. Nie chodzi o to, czy maszyna potrafi podjąć decyzję. Chodzi o to, czy jako społeczeństwo chcemy jej tę decyzję oddać.

AI Act reguluje kwestie transparentności, stronniczości algorytmów oraz wykorzystania biometrii w przestrzeni publicznej. Czy z perspektywy Pani badań regulacje prawne są wystarczająco elastyczne, aby sprostać wyzwaniom takim jak face morphing czy automatyzacja nadzoru, jednocześnie nie ograniczając rozwoju odpowiedzialnych innowacji technologicznych?

Mam pewien problem z pytaniem, czy prawo kiedykolwiek może nadążyć za technologią. Kiedy kończymy regulować jedno rozwiązanie, inżynierowie często pracują już nad następnym. W przypadku sztucznej inteligencji i biometrii widać to szczególnie dobrze. Jeszcze niedawno największe emocje budziło samo rozpoznawanie twarzy. Dzisiaj musimy rozmawiać nie tylko o tym, czy system potrafi rozpoznać człowieka, ale również o tym, czy twarz, którą analizuje, w ogóle jest prawdziwa. Face morphing jest tutaj świetnym przykładem. Możemy stworzyć obraz będący połączeniem cech dwóch osób, na tyle przekonujący, że może wprowadzić w błąd system biometryczny. Podobnie jest z deepfake'ami i coraz doskonalszymi metodami spoofingu. To trochę niekończący się wyścig. Tworzymy lepsze systemy identyfikacji, pojawiają się lepsze sposoby ich oszukiwania, więc budujemy jeszcze skuteczniejsze mechanizmy zabezpieczające.

AI Act jest w tym kontekście bardzo ważnym krokiem, przede wszystkim dlatego, że nie próbuje regulować każdej technologii osobno, lecz wychodzi od poziomu ryzyka. W przypadku biometrii wprowadza daleko idące ograniczenia. Zakazuje między innymi nieukierunkowanego pozyskiwania wizerunków twarzy z internetu i nagrań CCTV w celu tworzenia lub rozbudowywania baz rozpoznawania twarzy oraz, poza ściśle określonymi wyjątkami, stosowania zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej przez organy ścigania. W takich wyjątkowych przypadkach przewiduje też dodatkowe zabezpieczenia, w tym ocenę wpływu na prawa podstawowe i co do zasady wcześniejszą zgodę sądu lub niezależnego organu. Bardzo ważne jest dla mnie również to, że europejski prawodawca dostrzega problem ludzkiej kontroli. W przypadku zdalnej identyfikacji biometrycznej w czasie rzeczywistym decyzja wywołująca negatywne skutki prawne dla człowieka nie może opierać się wyłącznie na wyniku systemu. AI Act nakłada także obowiązki dotyczące oznaczania treści typu deepfake jako sztucznie wygenerowanych lub zmanipulowanych.

Czy to wystarczy? Myślę, że nie i chyba nie powinniśmy oczekiwać, że jeden akt prawny rozwiąże wszystkie problemy, które przyniesie rozwój AI. Prawo wyznacza granice, ale pomiędzy przepisem a konkretną sytuacją zawsze pozostaje przestrzeń, którą muszą wypełnić technologia, procedury instytucjonalne i ludzie. I tutaj wracam do mojego projektu. Interesuje mnie właśnie ta przestrzeń. Możemy przecież zapisać w prawie obowiązek nadzoru człowieka, ale pozostaje pytanie, jak ten nadzór wygląda w praktyce. Czy ekspert naprawdę analizuje wynik systemu? Czy wie, kiedy algorytm może się mylić? Czy potrafi rozpoznać sytuację nietypową? Czy ma czas i kompetencje, żeby zakwestionować wynik? A może po kilku tysiącach prawidłowych wskazań zaczyna automatycznie naciskać „zaakceptuj”? To ostatnie pytanie jest dla mnie szczególnie ważne, ponieważ samo wprowadzenie człowieka do procesu nie oznacza jeszcze rzeczywistej kontroli człowieka. Jeżeli operator bezrefleksyjnie zatwierdza decyzje algorytmu, formalnie mamy human in the loop, ale faktycznie decyzję nadal podejmuje maszyna.

Dlatego nie przeciwstawiałabym regulacji innowacjom. Dobre prawo nie powinno mówić naukowcom i przedsiębiorcom: „nie rozwijajcie biometrii”. Powinno raczej jasno określać, gdzie kończy się zwykłe technologiczne ułatwienie, a zaczyna ingerencja w prawa człowieka wymagająca znacznie silniejszych zabezpieczeń. To pozostawia przestrzeń dla innowacji, ale jednocześnie stawia człowieka i możliwe konsekwencje społeczne w centrum projektowania technologii. Być może więc nie potrzebujemy prawa, które będzie próbowało przewidzieć każdą kolejną wersję face morphingu, deepfake'u czy spoofingu. To prawdopodobnie niemożliwe. Potrzebujemy raczej regulacji wystarczająco elastycznych, żeby wraz z technologią mogły zmieniać się standardy bezpieczeństwa, sposoby oceny ryzyka i procedury nadzoru. Bo w gruncie rzeczy pytanie nie brzmi, czy pozwolić technologii się rozwijać. Ona będzie się rozwijała. Pytanie brzmi, czy wraz z nią równie szybko będziemy rozwijać mechanizmy, które pozwolą nam zachować nad nią rzeczywistą kontrolę.

dr Rafał Boguszewski