Preorder drugiego tomu książki sekuraka: Wprowadzenie do bezpieczeństwa IT. -15% z kodem: sekurak-book
Amazon instaluje w pojazdach kamery ze sztuczną inteligencją, aby nadzorować kierowców
Jak donosi portal Vice, globalny gigant e-commerce – Amazon – wcielając w życie wizję rzeczywistości przedstawionej przez Orwella w książce Rok 1984, postanowił wyposażyć pojazdy dostawcze w kamery ze sztuczną inteligencją firmy Netradyne:
Choć w teorii technologia ta ma zapewniać „bezpieczeństwo” kierowcom, to w praktyce dane zbierane przez urządzenia są wysyłane do firmy Amazon, a następnie są one wykorzystywane do obliczania „efektywności” pracowników, co przekłada się na premie lub – w przypadku słabych wyników – ewentualne zwolnienia, tudzież potrącenie z pensji.
Powyższa sytuacja sama w sobie stanowi duże naruszenie podstawowych praw pracownika, natomiast część kierowców zwraca uwagę na jeszcze jeden problem:
Według kierowców sztuczna inteligencja nie do końca radzi sobie z ocenianiem decyzji podejmowanych przez nich na drodze. W praktyce oznacza to, że AI potrafi uznać patrzenie w boczne lusterko, ustawianie radia czy zajechanie drogi przez innego kierowcę jako błąd pracownika. Warto dodać, że przy większości wykrytych „błędów” urządzenie wydaje głosem robota różne dźwięki i komunikaty, np.: „Utrzymaj bezpieczną odległość”, co może rozpraszać kierowcę i tym samym doprowadzić do wypadku.
~ Jakub Bielaszewski
Trochę koślawe podsumowanie sytuacji. Nawet artykuł Vice pokazuje inny obraz.
Clou sprawy to automatyzacja decyzji bez opcji oceny przez człowieka. Jeżeli false positive stanowią istotną część wyniku, co jest sugerowane, to prowadzi to do nieuczciwego traktowania podwykonawców. Jeżeli docelowa liczba pomyłek jest ustalona na zero, czyli poniżej poziomu idealnego kierującego, to również i tutaj mamy błąd.
Nie można pociągać każdej formy wchodzenia w prywatność pod Orwella. Szczególnie nie wtedy, gdy cytowana krytyka nawet tego tematu nie dotyczy. W sensie prywatności Amazon robi to samo, co jest zrobione u wielu przewoźników świadczących usługi w polskich miastach. Różnica taka, że firma Bezosa próbuje ciąć koszty i całkowicie sknociła implementację.
Niektóre przytaczane argumenty brzmią jednak jak typowy płacz ludzi, którzy mają ból tyłka, bo stracili możliwość prowadzenia nieuczciwej konkurencji. I to też, w ramach dziennikarskiego krytycznego podejścia do tematu, należałoby wziąć pod uwagę.
Hej. Vice podlinkowaliśmy jedynie jako źródło, na którego bazie wypuściliśmy nasz artykuł, więc „obraz” nie koniecznie musi być taki sam. Co do porównania z twórczością Orwella z instalacją kamer samą w sobie nie mam większego problemu. Problem polega na tym, że rozwiązanie te brandowane „bezpieczeństwem” kierowców służy de facto do oceny skuteczności pracowników, i nawet taki zabieg nie jest dobrze przeprowadzany (AI nie radzi sobie z rzetelną oceną kierowcy, co przekłada się na późniejsze wynagrodzenie pracownika w postaci premii). Dodając to tego fakt, że komunikaty wydawane przez urządzenie mogą rozpraszać kierowców, a nawet doprowadzić do wypadku (AI uznaje prawidłowe zachowania kierowców jako błąd), to całość można jak najbardziej ocenić w negatywny sposób. Co do „płaczu ludzi” – według źródła, podobną wersję wydarzeń przytoczyło szereg pracowników Amazona. Mimo to uważam że porównanie do Orwella na samym początku mogło być lekką przesadą. Pozdrawiam i życzę miłego dnia!
Mówimy o kamerze, które rejestruje Cię i ocenia każde Twoje zachowanie w czasie rzeczywistym. Do tego komentuje Twoje działanie zmierzając do jego „naprostowania”. To jest Orwell as fuck. Nie wiem o jakich innych firmach mówimy stosujących to rozwiązanie. Wielu przewoźników monitoruje ruch pojazdów i sposób obsługi pojazdu, ale nie wlepia w Ciebie kamery monitorując na co kierujesz oczy, kiedy drapiesz się po tyłku lub dmuchasz nos.
Jesli inwigilacja przy pomocy kamer nie moze sie kojarzyc z 1984 to co moze?
Prosty hack – nożyczki i taśma klejąca :) Jedynie trzeba się zorganizować, aby każdy tak samo postąpił.
Jak zakleją kamerki, wtedy ten „dystopijnie mroczny, robotyczny głos” będzie krzyczał „odklej to, odklej, bo nie będzie pensji” :P
A glosnika nie da sie zakleic gumą do żucia? No i mozna wszak praciwac za darmo albo za doplatą jak ktoś lubi. A jak nie to przecież „droga wolna” do konkurencji ;-) Szerokosci :)))