ŻYJEMY W CYBERWIĘZIENIU INWIGILACJI I NAWET NIE ZDAJEMY SOBE Z TEGO SPRAWY

Oto właśnie zostało ujawnione, że iRoboty Roomba w 2020 gromadziły materiały photo i video do testowania i uczenia nowych funkcji sztucznej inteligencji. Dane gromadziły podczas użytkowania tj. odkurzania w domu, a następnie przekazywały zarejestrowane informacje do chmury. W ten sposób zarejestrowano np. babkę siedzącą na kiblu, ale także:

„Na innym zdjęciu chłopiec, który wydaje się mieć osiem lub dziewięć lat i którego twarz jest wyraźnie widoczna, leży na brzuchu na podłodze w korytarzu. Trójkątny kosmyk włosów rozsypuje się na jego czole, gdy z widocznym rozbawieniem wpatruje się w obiekt nagrywający go z poziomu oczu.”

iRobot twierdzi, że żaden z komercyjnych produktów nie był wyposażony w te funkcje, a wszystkie zdjęcia i nagrania pochodzą od pracowników lub osób biorących udział w programie rozwoju technologii, które wiedziały i zgadzały się na to, że takie dane będą gromadzone.

Firma twierdzi ponadto, że wyciek zdjęć jest nielegalny, bo zgodnie z umowami z podwykonawcami miały one nigdy nie ujrzeć światła dziennego. Przyznano także, że zgromadzono ok. 2 mln podobnych zdjęć i znacznie więcej materiału pochodzącego z innych urządzeń i platform gromadzących dane do uczenia i testowania technologii SI.

To jednak dopiero początek problemu. W dzisiejszych czasach coraz bardziej niepozorne urządzenia są wyposażane w coraz bardziej zaawansowana technologię. Pierwsze roboty do odkurzania miały tylko system do wykrywania przeszkód i odkurzacz, teraz wyposaża się je w kamery żeby lepiej rozpoznawały rodzaje przeszkód i dostosowywały sposób pracy do warunków konkretnego mieszkania, ale także chce sie je rozwijać w kierunku bardziej autonomicznej pracy czy np. sterowania głosowego.

W tym miejscu wskazuje się, że inaczej traktujemy roboty, a inaczej ludzi np. nie zgodzilibyśmy się pewnie na to, żeby po domu chodziła nam jakaś osoba sprzątająca, która nagrywałaby nas kamerą czy rejestrowała rozkład pomieszczeń, ale nie mamy nic przeciwko gdy robi to robot, zwłaszcza, gdy za zgodę na zbieranie takich danych dostajemy tańszy produkt lub dodatkowe usługi.

Dochodzi do sytuacji, że godzimy się na to aby otaczały nas przedmioty, które nieustannie nas nagrywają i monitorują nasze zachowanie (btw. mam szczoteczkę elektryczną oral-b, która uczy się sposobu mycia zębów i dostosowuje do użytkownika np. analizując siłę nacisku na zęby).

Kolejny problem niewidoczny z zewnątrz to rozpowszechnainie naszych danych. Teoretycznie mamy zapewnione w politykach prywatności odpowiednie zabezpieczenia, szyfrowane połączenia, zabezpieczone przestrzenie chmurowe czy dostęp do danych wyłącznie przez przeszkolony i odpowiednio upoważniony personel.

W praktyce dane z robota są migrowane do chmury w USA, gdzie automat je sortuje, następnie dostęp do takich danych otrzymuje podwykonawca z Indii, który dokonuje dalszych prac na danych i migruje je do kolejnej chmury wspierającej SI, przy której pracują kolejni programiści z Polski, Brazylii i Singapuru.

IT support dla całego obiegu danych sprawuje zespół IT sec z Francji. I w ten sposób teoretycznie prywatne, pilne strzeżone dane oblatują cały świat i dziesiątki kolejnych pracowników podwykonawców dostaje dostęp do zdjęcia, na którym siedzisz na tronie i zrzucasz gruz.