Ludzie mają zły wpływ na sztuczną inteligencję?

24 marca 2016, 18:35 | W biegu | komentarze 2
: zin o bezpieczeństwie - pobierz w pdf/epub/mobi.

Tay AI to przygotowany przez Microsoft czat-bot wykorzystujący elementy sztucznej inteligencji. Niestety, w starciu z brutalną internetową rzeczywistością bot okazał się podatny na przejmowanie negatywnych ludzkich zachowań...

Już w kilka godzin po uruchomieniu Tay, która w zamyśle swych autorów miała naśladować sympatyczną nastolatkę, jej czar prysł:

Część z obraźliwych wpisów wynikała z prostej funkcji powtarzania wiadomości przesyłanych przez jej rozmówców, niektóre były jednak wynikiem działania programu implementującego elementy AI.

Wygląda więc na to, że ludzie mogą mieć zły wpływ nawet na sztuczną inteligencję...

Tay

 

Spodobał Ci się wpis? Podziel się nim ze znajomymi:



Komentarze

  1. Łukasz

    Ciekawy eksperyment z socjologicznego punktu widzenia. W zasadzie to wiemy teraz, że użytkownicy czata byli w większości narodowymi socjalistami i antysemitami, którzy nie stronili od seksu (ponoć bot stał się od niego uzależniony).

    Takie narzędzie można wykorzystać w szeroko pojętej analizie jakościowej przy badaniach nad społecznościami internetowymi. W zasadzie to cały dział socjoinformatyki... Arcyciekawe i arcyważne. Można to wykorzystać na wiele sposobów: od permanentnej inwigilacji internautów przez np. służby, aż po właśnie proste badania prowadzone przez magistrantów.

    Odpowiedz
  2. 123

    Trzeba było nic nie mówić, że to AI, wtedy bot nie byłby atakowany i byśmy mieli bardziej obiektywny wynik.

    Odpowiedz

Odpowiedz