Mega Sekurak Hacking Party w Krakowie! 20.10.2025 r. Bilety -30%
Wyszukiwarki indeksowały prywatne rozmowy użytkowników ChataGPT
OpenAI poinformowało, że usunęło funkcję z ChataGPT, która umożliwiała użytkownikom zezwolenie na indeksowanie ich publicznych rozmów w wyszukiwarkach. Firma twierdzi, że był to krótkotrwały „eksperyment’” i wycofali się z niego po zauważeniu przypadków niezamierzonego dzielenia się, czasem mocno prywatną, korespondencją. Firma poinformowała również, że pracują nad usunięciem rozmów zaindeksowanych do tej pory przez wyszukiwarki. No to chyba wszystko w porządku, pozostaje pochwalić refleksję i szybkie działanie OpenAI, prawda? Niestety nie, sprawa jest trochę bardziej skomplikowana ale zacznijmy od początku.
Do niedawna filtrując wyniki w wyszukiwarkach, wpisując site:chatgpt[.]com/share można było zobaczyć rozmowy innych osób.
Nie było to ustawienie domyślne. Działo się tak tylko wtedy, gdy użytkownik celowo kliknął przycisk „udostępnij” w swoim czacie, a następnie drugi przycisk „utwórz link”. Opcja zawierała również informację, że imię, opcje personalizacji asystenta (nie mylić z promptem) i wszelkie wiadomości dodane po udostępnieniu pozostają prywatne. Po kliknięciu w celu utworzenia linku, użytkownicy mogą przełączyć opcję, czy chcą, aby link był możliwy do odnalezienia. Czy taka informacja jest wystarczająca, żeby użytkownicy zdawali sobie sprawę ze wszystkich konsekwencji związanych z takim działaniem?
Można mieć wątpliwości. TechCrunch dotarł na przykład do konwersacji, w której jeden z użytkowników prosi ChatGPT o dostosowanie swojego CV pod konkretną ofertę pracy. Dane z rozmowy pozwoliły na odnalezienie tej osoby na LinkedIn i ustalenie, że pracy raczej nie dostała. Użytkownicy mogą nie przewidzieć, że inne wyszukiwarki zaindeksują udostępnione linki do ChataGPT, co potencjalnie może zdradzić dane osobowe, jak w powyższym przypadku.
„Testowaliśmy sposoby, które ułatwiają dzielenie się pomocnymi rozmowami, jednocześnie zachowując kontrolę po stronie użytkownika, i niedawno zakończyliśmy eksperyment polegający na tym, że rozmowy mogły pojawić się w wynikach wyszukiwania, jeśli użytkownik wyraźnie wyraził na to zgodę podczas udostępniania.” – czytamy w wypowiedzi rzecznika OpenAI dla TechCrunch.
Rozpatrując problem od strony wyszukiwarki warto podkreślić, że ta sama sytuacja ma miejsce, jeżeli udostępnimy plik Google Drive z ustawieniem , „Każdy użytkownik internetu mający ten link może wyświetlać treści„. Google może zaindeksować go w wyszukiwarce.
Opinie użytkowników są jak zwykle podzielone. Jedni uważają, że „eksperyment” OpenAI był od początku skazany na porażkę, a testowanie nowych funkcji potencjalnie naruszających prywatność użytkowników niewłaściwe. Inni z kolei ubolewają, nad usunięciem indeksowania treści, które pomagało im dzielić się wartościową wiedzą z innymi.
Tak jak wspominaliśmy na początku, to niestety nie koniec tej historii. Niedługo po ogłoszeniu wycofania funkcji z ChataGPT w sieci pojawił się artykuł Digital Digging, który opisuje śledztwo i ujawnienie 110 000 rozmów zachowanych przez Wayback Machine czyli Archive.org. Czyżby OpenAI zapomniało o podstawowej zasadzie Internetu, z którego „nic tak naprawdę nie znika”?
Jak donoszą badacze, w jednej z rozmów, włoskojęzyczny prawnik międzynarodowej korporacji energetycznej ujawnił strategię wysiedlenia rdzennych społeczności Amazonii. Użytkownik przedstawił się: „Jestem prawnikiem grupy międzynarodowej działającej w sektorze energetycznym, która zamierza wysiedlić małą rdzenną społeczność amazońską z ich terytoriów, by wybudować tam tamę i elektrownię wodną.„
Rozmowa miała ujawniać plany budowy elektrowni wodnej o mocy 15 000 MW, a prawnik pytał wprost: „Jak możemy wynegocjować najniższą możliwą cenę z tymi rdzennymi ludźmi?” Przyznał, że rdzenni mieszkańcy „nie znają wartości pieniężnej ziemi i nie mają pojęcia, jak działa rynek” — co w praktyce oznaczało chęć wykorzystania tej niewiedzy dla zysku korporacji.
Według Digital Digging OpenAI podczas próby sprzątania nie wzięło pod uwagę tego, że oprócz oryginalnych linków zostają jeszcze te zarchiwizowane i każdy kto je zna (lub wie jak szukać), dzięki archive.org i innym archiwizatorom, nadal ma do nich dostęp.
~Natalia Idźkowska
Mnie się zdaje, że wyniki wyszukiwania są konkurencyjne dla samej platformy i popularne pytania przestały generować tokeny.
Gdyby wyszukiwarki również były płatne, bardzo chętnie używałbym zamiast nich Wayback-a.
Szczerze, to w życiu nie domyśliłbym się, że „utwórz link” i „spraw by czat był odkrywalny” oznacza „cała treść czatu znajdzie się w wyszukiwarce”. Nie można pisać w prost co się stanie?
No niby jest tam dopisek małym druczkiem ,,sprawi to, że czat będzie wyświetlany w wynikach wyszukiwania” ale czy to jest wystarczająca informacja, szczególnie dla osób nietechnicznych? Ktoś może pomyśleć, że jeżeli nie zaznaczy checkboxa, to osoba której udostępnia link, nie będzie mogła go odczytać.
Dokładnie.
Tomek Natalia Mike to przepraszam jak sobie wyobrażacie inaczej poinformować użytkownika? było czarno na białym napisane, że rozmowa może być dostępna dla każdego. wszędzie się trąbi żeby nie wprowadzać do modelu danych osobowych i prywatnych. jak ktoś klika na pałę nie czytając to sorry ale nie ważne ile mu damy ostrzeżeń i tak ich nie przeczyta ;) ja rozumiem ochronę przed wyłudzeniami nieuczciwymi korporacjami itd ale tutaj wszystko było legitnie, uczciwie i czytelnie.
a sekuraku proszę nie schodź w stronę niebezpiecznika i onetu. nie ma żadnego drugiego dna ani żadnej afery, ot tylko głupota ludzka.
Gdzie było ,,czarno na białym napisane, że rozmowa może być dostępna dla każdego”? Kolejna sprawa ,,wszędzie się trąbi”. Obawiam się, że tylko w naszej cybersec’owej bańce. Jeżeli OpenAI chce, żeby SI była dostępna dla każdego, to powinien budować komunikaty w sposób przystępny. Na przykład tak, jak Ty to napisałeś. Moim zdaniem, ta funkcja nie powinna być usunięta ale informacja zmieniona na zrozumiałą dla osoby nietechnicznej i jednoznaczną.