Wyszukiwarki indeksowały prywatne rozmowy użytkowników ChataGPT

OpenAI poinformowało, że usunęło funkcję z ChataGPT, która umożliwiała użytkownikom zezwolenie na indeksowanie ich publicznych rozmów w wyszukiwarkach. Firma twierdzi, że był to krótkotrwały „eksperyment’” i wycofali się z niego po zauważeniu przypadków niezamierzonego dzielenia się, czasem mocno prywatną, korespondencją. Firma poinformowała również, że pracują nad usunięciem rozmów zaindeksowanych do tej pory przez wyszukiwarki. No to chyba wszystko w porządku, pozostaje pochwalić refleksję i szybkie działanie OpenAI, prawda? Niestety nie, sprawa jest trochę bardziej skomplikowana ale zacznijmy od początku.

Do niedawna filtrując wyniki w wyszukiwarkach, wpisując site:chatgpt[.]com/share można było zobaczyć rozmowy innych osób.

Nie było to ustawienie domyślne. Działo się tak tylko wtedy, gdy użytkownik celowo kliknął przycisk „udostępnij” w swoim czacie, a następnie drugi przycisk „utwórz link”. Opcja zawierała również informację, że imię, opcje personalizacji asystenta (nie mylić z promptem) i wszelkie wiadomości dodane po udostępnieniu pozostają prywatne. Po kliknięciu w celu utworzenia linku, użytkownicy mogą przełączyć opcję, czy chcą, aby link był możliwy do odnalezienia. Czy taka informacja jest wystarczająca, żeby użytkownicy zdawali sobie sprawę ze wszystkich konsekwencji związanych z takim działaniem?

Można mieć wątpliwości. TechCrunch dotarł na przykład do konwersacji, w której jeden z użytkowników prosi ChatGPT o dostosowanie swojego CV pod konkretną ofertę pracy. Dane z rozmowy pozwoliły na odnalezienie tej osoby na LinkedIn i ustalenie, że pracy raczej nie dostała. Użytkownicy mogą nie przewidzieć, że inne wyszukiwarki zaindeksują udostępnione linki do ChataGPT, co potencjalnie może zdradzić dane osobowe, jak w powyższym przypadku.

„Testowaliśmy sposoby, które ułatwiają dzielenie się pomocnymi rozmowami, jednocześnie zachowując kontrolę po stronie użytkownika, i niedawno zakończyliśmy eksperyment polegający na tym, że rozmowy mogły pojawić się w wynikach wyszukiwania, jeśli użytkownik wyraźnie wyraził na to zgodę podczas udostępniania.” – czytamy w wypowiedzi rzecznika OpenAI dla TechCrunch.

Rozpatrując problem od strony wyszukiwarki warto podkreślić, że ta sama sytuacja ma miejsce, jeżeli udostępnimy plik Google Drive z ustawieniem , „Każdy użytkownik internetu mający ten link może wyświetlać treści„. Google może zaindeksować go w wyszukiwarce. 

Opinie użytkowników są jak zwykle podzielone. Jedni uważają, że „eksperyment” OpenAI był od początku skazany na porażkę, a testowanie nowych funkcji potencjalnie naruszających prywatność użytkowników niewłaściwe. Inni z kolei ubolewają, nad usunięciem indeksowania treści, które pomagało im dzielić się wartościową wiedzą z innymi. 

Tak jak wspominaliśmy na początku, to niestety nie koniec tej historii. Niedługo po ogłoszeniu wycofania funkcji z ChataGPT w sieci pojawił się artykuł Digital Digging, który opisuje śledztwo i ujawnienie 110 000 rozmów zachowanych przez Wayback Machine czyli Archive.org. Czyżby OpenAI zapomniało o podstawowej zasadzie Internetu, z którego „nic tak naprawdę nie znika”?

Jak donoszą badacze, w jednej z rozmów, włoskojęzyczny prawnik międzynarodowej korporacji energetycznej ujawnił strategię wysiedlenia rdzennych społeczności Amazonii. Użytkownik przedstawił się: „Jestem prawnikiem grupy międzynarodowej działającej w sektorze energetycznym, która zamierza wysiedlić małą rdzenną społeczność amazońską z ich terytoriów, by wybudować tam tamę i elektrownię wodną.„

Rozmowa miała ujawniać plany budowy elektrowni wodnej o mocy 15 000 MW, a prawnik pytał wprost: „Jak możemy wynegocjować najniższą możliwą cenę z tymi rdzennymi ludźmi?” Przyznał, że rdzenni mieszkańcy „nie znają wartości pieniężnej ziemi i nie mają pojęcia, jak działa rynek” — co w praktyce oznaczało chęć wykorzystania tej niewiedzy dla zysku korporacji.

Według Digital Digging OpenAI podczas próby sprzątania nie wzięło pod uwagę tego, że oprócz oryginalnych linków zostają jeszcze te zarchiwizowane i każdy kto je zna (lub wie jak szukać), dzięki archive.org i innym archiwizatorom, nadal ma do nich dostęp.

~Natalia Idźkowska