Samochody autonomiczne mają poprawiać bezpieczeństwo na drogach, a systemy rozpoznawania twarzy pomagać w wykrywaniu przestępstw. Jednak błędy tych technologii mogą mieć poważne konsekwencje. W marcu 2018 roku testowany przez Ubera pojazd autonomiczny śmiertelnie potrącił kobietę prowadzącą rower przez ulicę w Tempe w Arizonie. Był to pierwszy śmiertelny wypadek z udziałem autonomicznego pojazdu. W Detroit błędne dopasowanie zdjęcia przez system rozpoznawania twarzy przyczyniło się do aresztowania niewinnego czarnoskórego mężczyzny.
Obie sprawy pokazują, jak ważne jest pytanie, które samorządy powinny zadawać przed wprowadzeniem nowych rozwiązań: czy technologia rzeczywiście odpowiada na potrzeby mieszkańców i poprawia ich życie, czy przede wszystkim przynosi korzyści firmom, które ją sprzedają?
Temu problemowi poświęcono analizę opublikowaną w czasopiśmie „Cities”. Badacze z Arizona State University, University of Massachusetts Amherst oraz szwedzkiego Chalmers University of Technology przyjrzeli się rozwojowi transportu autonomicznego w aglomeracji Phoenix oraz decyzjom dotyczącym rozpoznawania twarzy w Portland w Oregonie. Sprawdzali, jak władze miejskie godziły interesy przedsiębiorstw z bezpieczeństwem, prywatnością i równym traktowaniem mieszkańców.
Autorzy zwracają uwagę, że samorządy znajdują się pod presją wdrażania rozwiązań określanych mianem technologii inteligentnego miasta — od czujników monitorujących ruch po zaawansowane systemy kamer. Towarzyszą im obietnice większej sprawności i bezpieczeństwa. Problem pojawia się wtedy, gdy miasto nie ma jasnych zasad pozwalających ocenić, czy te obietnice są zgodne z jego celami i oczekiwaniami lokalnej społeczności.
Arizona otworzyła drogi dla samochodów autonomicznych
W sierpniu 2015 roku gubernator Arizony Doug Ducey podpisał rozporządzenie umożliwiające testowanie samochodów autonomicznych na drogach publicznych. Stosunkowo niewielka ingerencja władz w działalność firm technologicznych przyciągnęła przedsiębiorstwa rozwijające takie pojazdy. Google rozpoczął testy w Chandler, a w lutym 2017 roku Uber wprowadził swoje samochody na ulice Tempe.
Lokalne władze widziały w tej technologii szansę na ograniczenie liczby wypadków i usprawnienie ruchu. Tragiczny wypadek w marcu 2018 roku ujawnił jednak poważne zagrożenia. Pojazd Ubera potrącił Elaine Herzberg, która prowadziła rower przez jezdnię. Był to pierwszy śmiertelny wypadek z udziałem testowanego samochodu autonomicznego, w którym zginęła piesza.
Federalne dochodzenie wskazało zaniedbania po stronie Ubera, osoby nadzorującej jazdę pojazdu oraz stanowego departamentu transportu. Gubernator zawiesił testy Ubera w Arizonie. W rozporządzeniu regulującym testowanie pojazdów znalazł się również wymóg przestrzegania istniejących standardów bezpieczeństwa. Jak podkreślają autorzy analizy, w odpowiedzi na tragedię nie opracowano jednak nowych standardów.
Region nie zrezygnował z dalszego rozwoju transportu autonomicznego. W Tempe powołano komisję, która miała ocenić, jak pojazdy te mogą wspierać miejskie cele dotyczące bezpieczeństwa i jakości życia. Sąsiednie Chandler podjęło współpracę z Waymo. Pracownicy miasta mogli korzystać z jego usług przewozowych podczas wykonywania obowiązków służbowych, a policjanci i strażacy otrzymywali szkolenia dotyczące postępowania z pojazdami autonomicznymi.
Waymo współpracowało również z regionalnym operatorem transportu publicznego Valley Metro, testując możliwość uzupełniania przez takie samochody luk w komunikacji zbiorowej. Badacze wskazują te partnerstwa jako przykłady działań, które mogą przynosić korzyści zarówno mieszkańcom, jak i przedsiębiorstwom.
Portland postawiło na ograniczenia
Portland wybrało inną drogę w odniesieniu do systemów rozpoznawania twarzy. Technologia, która identyfikuje ludzi na podstawie zdjęć lub nagrań, od dawna budziła obawy dotyczące prywatności oraz nierównej skuteczności wobec różnych grup ludności.
Badanie amerykańskiego National Institute of Standards and Technology z 2019 roku wykazało, że niektóre systemy nawet sto razy częściej błędnie dopasowywały twarze osób czarnoskórych i pochodzenia azjatyckiego niż osób białych. Wyniki zależały jednak od konkretnego systemu.
Konsekwencje takich błędów pokazała sprawa z Detroit. W styczniu 2020 roku policja niesłusznie aresztowała czarnoskórego mężczyznę po tym, jak oprogramowanie powiązało jego wizerunek z nagraniem kradzieży sklepowej z 2018 roku. Późniejsza analiza ujawniła niewystarczające zasady i zabezpieczenia w procesie identyfikacji. Policja w Detroit zmieniła następnie swoją politykę, zakazując wykorzystywania tej technologii do inwigilacji i przewidywania przestępczości.
W Portland działało już biuro Smart City PDX, którego zadania obejmowały uwzględnianie potrzeb różnych grup mieszkańców i angażowanie społeczności w decyzje o nowych technologiach. Władze wykorzystały te doświadczenia, odpowiadając na obawy dotyczące rozpoznawania twarzy, zgłaszane szczególnie przez społeczności mniejszościowe.
Po konsultacjach społecznych rada miasta we wrześniu 2020 roku jednogłośnie przyjęła zakaz stosowania tej technologii zarówno przez miejskie instytucje, jak i przez prywatne firmy w miejscach dostępnych publicznie. Portland poszło tym samym dalej niż Oakland czy San Francisco, gdzie ograniczenia dotyczyły wyłącznie instytucji miejskich.
W 2023 roku miasto przyjęło także szerszą politykę dotyczącą technologii nadzoru. Wprowadziła ona obowiązek oceny wpływu nowych narzędzi na prywatność przed ich zakupem lub wykorzystaniem.
Komu służy technologia?
Autorzy analizy proponują, aby samorządy częściej korzystały z metody nazywanej „mapowaniem wartości publicznych”. Jej podstawy opracował w 2007 roku badacz administracji publicznej Barry Bozeman. Pozwala ona oceniać decyzje przez pryzmat korzyści dla społeczeństwa i sektora prywatnego.
Nie chodzi o prosty werdykt, czy dana technologia jest dobra, czy zła. Metoda pomaga uporządkować ocenę: czy rozwiązanie służy przede wszystkim przedsiębiorstwom, mieszkańcom, obu stronom, czy żadnej z nich. Ma wspierać rozmowę między urzędnikami, firmami, władzami i lokalną społecznością przed wdrożeniem technologii, w jego trakcie oraz po rozpoczęciu jej użytkowania.
Badacze zastosowali to podejście do dwóch opisanych przypadków. Korzystali z miejskich stron internetowych, przepisów, dokumentów planistycznych, zapisów posiedzeń rad, materiałów prasowych i rozmów z pracownikami samorządów. Najpierw ustalali, jakie wartości deklarowało dane miasto — na przykład bezpieczeństwo, przejrzystość czy równe traktowanie. Następnie sprawdzali, czy kolejne decyzje przybliżały je do tych celów, czy od nich oddalały, oraz jakie korzyści przynosiły firmom.
W przypadku aglomeracji Phoenix analiza wskazała, że początkowo priorytetem był rozwój gospodarczy, któremu nie towarzyszyła wystarczająca uwaga poświęcona bezpieczeństwu. Śmiertelny wypadek ujawnił porażkę tego podejścia. Późniejsze partnerstwa zaczęły w większym stopniu łączyć interes publiczny z celami przedsiębiorstw.
Portland wcześniej określiło swoje priorytety przy udziale mieszkańców. Kiedy uznano, że rozpoznawanie twarzy pozostaje z nimi w sprzeczności, władze zdecydowały się ograniczyć jego stosowanie.
Autorzy przyznają, że proponowana metoda ma ograniczenia. Wartości ważne dla społeczności nie zawsze łatwo zdefiniować, a z czasem mogą się one zmieniać. Samo wpisanie bezpieczeństwa czy prywatności do miejskiej strategii nie oznacza też, że będą one respektowane w praktyce.
Mimo to uporządkowana ocena może pomóc urzędnikom, którym często brakuje czasu, pieniędzy lub specjalistycznej wiedzy do analizowania kolejnych ofert technologicznych. Historie z Tempe i Detroit pokazują, że skutki pochopnych decyzji mogą być bardzo konkretne: śmierć człowieka lub pozbawienie wolności niewinnej osoby. Doświadczenie Portland wskazuje natomiast, że konsultacje społeczne i gotowość do odrzucenia technologii mogą być równie ważną częścią rozwoju miasta jak samo wdrażanie innowacji.
