Narzędzia do zdalnego nadzoru wywołały protesty na uczelniach w związku z obawami dotyczącymi prywatności i dyskryminacji, ale ich stosowanie w szkołach podstawowych i gimnazjach spotkało się z mniejszym zainteresowaniem.
W środku nocy niektórzy uczniowie liceum Kings Peak w Utah nie śpią – zdają obowiązkowe egzaminy. W tej szkole działającej wyłącznie online uczniowie przystępują do testów w swoich domach w godzinach, które najlepiej odpowiadają ich harmonogramowi. Dyrektor Ammon Wiemers twierdzi, że właśnie ta elastyczność przyciąga studentów – w tym sportowców i nastolatków pracujących na pół etatu – z całego stanu. Szkoła cieszy się coraz większym zainteresowaniem i wzrostem liczby uczniów.
Każdy uczeń, którego kusi możliwość ściągania, gdy nauczyciel śpi, powinien wiedzieć, że nadal jest obserwowany. Kosztem całodobowej wygody jest ich prywatność. Podczas egzaminów każdy ruch jest rejestrowany przez kamerę internetową ich komputera i analizowany przez Proctorio, firmę monitorującą wykorzystującą sztuczną inteligencję. Oprogramowanie Proctorio przeprowadza „skanowanie biurka”, próbując wyłapać sytuacje korzystania z „nieautoryzowanych zasobów”, stosuje technologię „wykrywania twarzy”, aby upewnić się, że w pomieszczeniu nie ma nikogo innego, kto mógłby pomóc, oraz „wykrywanie spojrzeń”, aby zauważyć „oderwanie wzroku od ekranu przez dłuższy czas”.
Następnie Proctorio udostępnia nauczycielom Kings Peak nagrania wizualne i dźwiękowe, przy czym algorytm zwraca szczególną uwagę na uczniów, których zachowanie podczas testu wskazywało, że mogą dopuszczać się oszukiwania.
Promocja
W czasie pandemii liczba takich narzędzi zdalnego nadzoru wzrosła wykładniczo, szczególnie w amerykańskich szkołach wyższych i na uniwersytetach, gdzie administratorzy starający się zapewnić integralność egzaminów podczas nauki zdalnej spotkali się z ostrym oporem studentów. W internetowych petycjach żądano od instytucji zaprzestania reżimu inwigilacji; w procesach zarzucano naruszanie konstytucyjnych praw i poleganie na „rasistowskich algorytmach”, które uruchamiały „czerwoną flagę”, gdy narzędzie nie wykrywało twarzy czarnoskórych uczniów.
Jednak wykorzystanie przez szkoły K-12 narzędzi do zdalnego nadzoru w dużej mierze przeszło bez echa. Prawie rok od wygaśnięcia stanu nadzwyczajnego dotyczącego zdrowia publicznego analiza wykazała, że szkoły podstawowe w całym kraju – a w szczególności programy prowadzone wyłącznie online – w dalszym ciągu korzystają z narzędzi oferowanych przez firmy zajmujące się cyfrowym nadzorem w stosunku do uczniów, nawet tych w wieku przedszkolnym.
Działacze na rzecz praw obywatelskich, którzy twierdzą, że narzędzia nadzorujące sztuczną inteligencję nie działają zgodnie z przeznaczeniem, żywią uprzedzenia i naruszają konstytucyjną ochronę uczniów, twierdzą, że obawy dotyczące prywatności i bezpieczeństwa są szczególnie istotne w przypadku małych dzieci i nastolatków, które mogą nie być w pełni świadome monitorowania lub jego implikacji.
Błędy oprogramowania
Pod koniec ubiegłego roku założyciel i dyrektor generalny Proctorio, Mike Olsen, opublikował post na blogu w odpowiedzi na krytyczne uwagi dotyczące skuteczności firmy. Student collegu z Ohio przeprowadził analizę i doszedł do wniosku, że możliwości Proctorio w zakresie wykrywania twarzy opierają się na bibliotece oprogramowania typu open source, w której występowały uprzedzenia rasowe – w tym nierozpoznawanie czarnych twarzy w ponad połowie przypadków. Testując możliwości firmy w zakresie rozpoznawania twarzy na zbiorze obejmującym prawie 11 tysięcy zdjęć FairFace, które przedstawiały osoby różnych ras i grup etnicznych, wykazał brak rozróżnienia twarzy czarnych osób w 57% przypadków, osób pochodzących z Bliskiego Wschodu w 41% przypadków, a białych w 40%. Tak wysoki wskaźnik awaryjności okazał się problematyczny dla firmy Proctorio, która opiera się na swojej zdolności do wskazywania oszustw poprzez skupianie się na rysach twarzy i ruchach ludzi.
Ciągły nadzór
Z danych GovSpend wynika, że ponad 100 dystryktów szkolnych K-12 polegało na Proctorio i jego konkurentach, a większość wydatków poczyniono w szczytowym okresie pandemii.
Linkletter stwierdził, że oprogramowanie Proctorio wprowadza w błąd, a młodzi ludzie mogą być bardziej podatni na potencjalne szkody wynikające z ciągłego nadzoru. Małe dzieci – argumentował – nie są w stanie naprawdę wyrazić zgody na monitorowanie przez oprogramowanie i mogą nie w pełni rozumieć jego potencjalne konsekwencje. Założona w 2013 r. firma z siedzibą w Arizonie twierdzi, że w szczytowym okresie pandemii świadczyła usługi zdalnego nadzoru dla ponad 2 000 instytucji edukacyjnych na całym świecie.
Chociaż istnieje niewiele niezależnych badań dotyczących skuteczności jakichkolwiek narzędzi do zdalnego nadzoru w zapobieganiu oszustwom, jedno z badań przeprowadzonych w 2021 r. wykazało, że Proctorio nie wykrył osób zdających, którym polecono oszukiwać. Badacze doszli do wniosku, że oprogramowanie jest „porównywalne z przyjmowaniem placebo: ma pewien pozytywny wpływ nie dlatego, że działa, ale dlatego, że ludzie wierzą, że działa lub że może zadziałać”.
Proctorio nie jest jedynym narzędziem do zdalnego nadzoru używanym w szkołach podstawowych i średnich. Dane GovSpend wskazują na przykład, że okręg szkolny w Las Vegas w stanie Nevada wydał od 2018 r. ponad 1,4 mln dolarów na kontrakty z konkurentem Proctorio, firmą Honorlock.
Zdalne przeszukanie
Dokumenty wskazują, że instytucje K-12 w dalszym ciągu poddają uczniów uczących się zdalnie skanom pomieszczeń nawet po tym, jak sędzia federalny orzekł, że stosowanie tej praktyki przez uniwersytet jest niezgodne z konstytucją. W 2022 r. sędzia federalny stanął po stronie studenta Cleveland State University, który zarzucił, że skanowanie pokoju wykonane przed egzaminem online naruszyło jego prawa zawarte w czwartej poprawce dotyczące nieuzasadnionych przeszukań i konfiskat. Sędzia orzekł, że skanowanie było „nieuzasadnione”, dodając, że „skanowanie pomieszczeń odbywa się tam, gdzie w przeciwnym razie ludzie by tego nie zrobili, przynajmniej nie bez nakazu lub zaproszenia”.
Marlow z ACLU twierdzi, że skany pomieszczeń są dla niego szczególnie niepokojące – zwłaszcza w kontekście K-12. Z punktu widzenia równości szans stwierdził, że takie skany mogą mieć nieproporcjonalnie negatywny wpływ na studentów nieposiadających dokumentów, osoby mieszkające z członkami rodziny nieposiadającymi dokumentów i dzieci żyjących w ubóstwie. Wyraził obawy, że informacje zebrane podczas skanowania pomieszczeń mogą zostać wykorzystane jako dowód w egzekwowaniu prawa imigracyjnego.
jm
