Preorder drugiego tomu książki sekuraka: Wprowadzenie do bezpieczeństwa IT. -15% z kodem: sekurak-book
Rodzina wylądowała w szpitalu. Zakupili książkę o grzybach, która była najpewniej napisana przez AI.
Wg tej relacji również zdjęcia w książce były wygenerowane przez sztuczną inteligencję. Książka została użyta do identyfikacji grzybów na przechadzce, a po spożyciu rodzina wylądowała w szpitalu z zatruciem.
W szczególności w książce można znaleźć takie „kwiatki”:
In conclusion, morels are delicious mushrooms which can be consumed from August to the end of Summer. Let me know if there is anything else I can help you with.
Po zgłoszeniu się z tym dość grubym problemem do sprzedawcy, sprzedawca zaproponował zwrot pieniędzy, a książka została… ściągnięta ze sprzedaży. Jednak osoba relacjonująca problem wskazuje, że spokojnie można znaleźć inne książki pisane „w podobnym klimacie”
Co ciekawe doniesienia o tego typu książkach pojawiały się już około roku temu.
~ms
Pogrążające. Jak można wyłączyć myślenie dla tak różnorodnych i zależnych od lokalnego środowiska, produktów jak grzyby i bazować na książkach z Amazon, których – co wysoce prawdopodobne – opisy bazują na innym nawet kontynencie. Nawet w Polsce grzyby np. W lasach wschodniej części kraju różnią się nieznacznie od tych na Pomorzu, a co dopiero porównanie ich i decydowanie na podstawie książki zagranicznej, nawet pisanej bez AI?
Pierwsze lekcje zbierania grzybów z reguły pobiera się od rodziców i dziadków, samodzielna nauka może kosztować życie. Wiem że to brzmi jak anachronizm lub wygląda jak dokument z National Geographic o tym jak niedźwiedzica uczy młode zbierać jagody.
Ale w dobie czerpania wszelkiej wiedzy z ekranu, instynkt samozachowawczy zdaje się zanikać.
I pewnie wiele osób się zaśmieje z opisanego w artykule tak nierozważnego zbieractwa. Ale już sami nie będą mieli oporów, by próbować usunąć awarię zmywarki lub piecyka gazowego w oparciu o dwa filmiki z YT, choćby dotychczas używali śrubokręta tylko do wymiany baterii w pilocie.
@To_Ya
Nie każdy ma możliwość uczyć się od dziadków i rodziców. Nie każdy ich ma, nie zawsze są zdrowi, nie zawsze mają wiedzę na temat którego potrzebujemy. Po to ludzkość wynalazła książki, żeby wiedza nie musiała być przekazywana w kontakcie osobistym ani dziedziczona. Tę rolę mogą spełniac także filmiki. Spełniają fora internetowe. Oczywiście szkoły. Jakbyśmy uczyli się tylko od dziadków i rodziców, mieszkalibyśmy nadal na drzewach. O ile w ogóle wyszlibyśmy z wody. A w bliższym dystansie czasowym, nie umielibyśmy Linuxa ale potrulibyśmy się olszówkami ;) Jeśli chcemy się rozwijać, nie unikniemy eksperymentów i podejmowania ryzyka. Tyle że warto się nauczyć je ograniczać żeby za szybko nie musieć zejść z planszy. Do źródeł wiedzy zawsze trzeba podchodzić krytycznie i weryfikować je z innymi źródłami. A jeśli samemu przekazuje się wiedzę innym, dołożyć starań żeby była na dany moment jak najrzetelniejsza. Nie brać udziału w rozsiewaniu fake newsów i fejkowej wiedzy, czy to tworzonej przez AI czy to przez tradycyjnych dowcipnisiów.
Ważne jest także uczenie nabywców wiedzy, że zależnie od kontekstu niektóre rzeczy mogą działać inaczej. Że te same maślaki zebrane z terenu czystego będą OK a z terenu skażonego zaszkodzą (przykład nie jest zmyślony, nauczyłem się na swoim błędzie). Mamy sporo roboty jeśli chcemy żeby AI nie wybiło przyszłych pokoleń fałszywymi podręcznikami :)
Wina człowieka.
AI zapewne dodało informację o tym że należy zachować ostrożność przy identyfikacji grzybów.
Odpowiedzi Ai prawie zawsze są skonstruowane w taki sposób, żebys czasem nie odniósł wrażenia, że nie są pewne. Uzasadnienia z czapy, fragment logiki wnioskowania i rezultat. Pamiętam jak z openAi kłóciłem się pół roku temu o to, czy pochodna z e to jest 0. Ai twierdziło, że e, a zaraz obok, że pochodna z 1 to zero, bo pochodna stałej wartości to zero. I tak w kolo Macieju… Wszystko z wywodami, uzasadnieniami i … Najoczywistszym i błędami w wyciąganiu wniosków. I arogancka pewnością swojej bezbłędności. Usypia argumentacja i jak już się to uda, zapodaje najoczywistsze klamstwo – tyle, że wtedy wielu ma już na tyle uśpiona czujność, ze nie wyłapie błędu.
Bo AI nie jest wytrenowane do tego, aby przyznać się do błędu, czy niewiedzy. Najgorsze jest, gdy ktoś korzysta z tego jak z wyroczni. A prawda jest taka, że AI na dziś wie tyle, co zescrapuje. I im bardziej specjalistyczna wiedza jest potrzebna, tym bardziej się wykłada. Jeśli ktoś sam nie ma wystarczającej wiedzy na dany złożony temat i liczy, że AI magicznie pomoże to dowie się garści bzdur. Dziś AI zachwycają się ci, na których wrażenie robi fikuśnie napisany hello world :) Lub, że naciągną kogoś podpinając się pod nowy buzzword. To kolejna dot-com bubble. Pierwotna bańka też ciągnęła się dobre parę lat. Niektórych ustawiła, większość popłynęła.
Nie zgodzę się z Tobą. Już nie raz AI przyznała mi rację, jednocześnie przyznając się do błędu. Problem w tym, że nie zawsze potrafiła się poprawić, pomimo przyznania się do błędu.
Akurat!
Nawet gdy AI odpowie najszczerszą prawdę, a ty zapytasz „czy na pewno?”, to AI ZAWSZE wtedy odpowie „przepraszam za wprowadzenie w błąd”. – Czyli ma rację czy nie ma???
Więc lepiej nie opierać się na wytworach AI.
@Piotr
Tak. I spotkałem się z takim sposobem odpowiadania także przed czasami AI. Gdy osoba na egzaminie ustnym opowiadała bzdury szybko, elokwentnie i z bardzo dużą pewnością siebie. W takiej sytuacji egzaminator musiał zachować wielką czujność żeby nie dać się skołować, a czasem upewnić się z drugim albo z materiałami.
Ale co tutaj jest tym kwiatkiem…? Chodzi o porę występowania? Wyczytałem że owocują w kwietniu i maju, że niby specjalnie podaje późniejszy termin, żeby spóźnić się na smardze? A to niedobre AI;) Ale pamiętajcie, że choćby była najlepsza sztuczna inteligencja to zawsze przegra z prawdziwą ludzką głupotą
@adam
Dla mnie też nie było to oczywiste i poszukałem opisów źródłowych. Kwiatkiem jest wg nich zwrócenie się bezpośrednio do czytelnika przez „Let me know if there is anything else I can help you with”, jako charakterystyczny dla czatów AI sposób kończenia odpowiedzi.
Tja…. Jak to było?
Hard skille zastąpi AI, liczą się tylko soft xD
A w UK w pewnej prywatnej szkole wprowadzaja nauczanie przez AI i tlumacza ze to nie po to zeby w przyszlosci oszczedzic na nauczycielach, bo oni juz wiedza ze interakcja nauczyciel – dziecko jest bardzo wazna dla rozwoju dziecka. Ciekawe czy tez wiedza ze AI podaje bzdury…
Już w 2017 roku kupiłem książkę o „jadalnych roślinach dziko rosnących” w księgarni. Wydawała się fajna, pewnego razu zajrzałem na koniec książki gdzie były przypisy, okazało się że głównym źródłem wiedzy autorki była wikipedia a zdjęcia pochodziły z wikimedia.