AI bez lukru #23: Unijne pozwolenie na innowacje

Cześć! Z tej strony Tomek Turba. AI bez lukru to cykl moich felietonów o sztucznej inteligencji bez marketingowego lukru, bez korporacyjnych slajdów i bez bajek o „rewolucji, która wszystko zmieni”. Pokazuję AI taką, jaka jest naprawdę: z absurdami, wpadkami, halucynacjami i konsekwencjami, o których rzadko mówi się głośno. Bez zadęcia, bez propagandy, z humorem – ale na serio.

Pełna lista odcinków: tutaj

W teorii to miało być prosto. Legislacja, kosmos, mistyfikacja. Lecz, sztuczna inteligencja rozwija się szybciej niż prawo, więc trzeba ją uregulować, zanim zrobi komuś krzywdę. Powstaje więc AI Act – pierwsza na świecie tak duża regulacja dotycząca sztucznej inteligencji (w tle gdy to czytasz, słychać epickie fanfary dookoła). Brzmi poważnie, odpowiedzialnie, europejsko! Bezpieczna technologia dla obywateli. Prawa człowieka, przejrzystość i kontrola. Wszystko wygląda dobrze w folderze. Tylko że im głębiej wchodzi się w szczegóły, tym częściej pojawia się pytanie: czy to jeszcze regulacja technologii, czy już licencjonowanie przyszłości?

AI Act opiera się na klasycznym, europejskim pomyśle: podzielmy systemy na poziomy ryzyka i nałóżmy obowiązki proporcjonalne do zagrożenia. Są systemy zakazane, systemy wysokiego ryzyka, systemy ograniczonego ryzyka i te praktycznie wolne od regulacji. Na papierze wygląda to rozsądnie. Problem zaczyna się w praktyce. Po pierwsze, sam system jest potężnie skomplikowany. AI Act nie działa w próżni. Nakłada się na GDPR, Data Act, Cyber Resilience Act i inne regulacje cyfrowe, co tworzy znaczną złożoność prawną i operacyjną dla firm.

Z perspektywy przedsiębiorcy to nie jest jeden akt prawny. To jest stos dokumentów, które trzeba ze sobą pogodzić. Po drugie, odpowiedzialność nie spada tylko na twórców AI. AI Act obejmuje także użytkowników systemów. Firma, która wdraża narzędzie AI, musi wiedzieć, jak działa, jakie dane przetwarza i jakie może mieć skutki, a potem jeszcze monitorować jego działanie i reagować na problemy.

W praktyce oznacza to, że nawet jeśli kupujesz gotowe narzędzie, to i tak ponosisz część odpowiedzialności za jego zachowanie. To zaczyna przypominać sytuację, w której kupujesz samochód, ale prawo mówi: “ok, możesz nim jeździć, ale najpierw udowodnij, że rozumiesz, jak działa silnik i skrzynia biegów”.

Kolejny problem to koszty i innowacyjność. Firmy technologiczne, zarówno amerykańskie, jak i europejskie, ostrzegają, że regulacje mogą spowolnić rozwój AI w Europie. Niektóre organizacje branżowe wprost apelowały o wstrzymanie wdrożenia przepisów, twierdząc, że są zbyt skomplikowane i mogą zaszkodzić konkurencyjności regionu. Część dużych firm określała je nawet jako “toksyczne dla innowacji”. Całe szczęście, że nadmiar zabezpieczeń w nakrętkach nie jest toksyczny i zaledwie w dwa lata przyczynił się do ochłodzenia klimatu!  To nie jest przypadek. Każda regulacja ma koszt. A w AI koszt zgodności bywa ogromny. Firmy zaczynają traktować prawo jako główną ramę projektowania systemów, bo cena niezgodności jest wysoka. Efekt uboczny jest taki, że innowacja przestaje być pierwszym celem. Pierwszym celem staje się compliance ☹️

Do tego dochodzi temat praw autorskich. AI Act miał chronić twórców, ale w praktyce wiele organizacji artystycznych twierdzi, że regulacja nie daje im realnych narzędzi kontroli nad tym, czy ich dzieła są używane do trenowania modeli. Z jednej strony firmy technologiczne mówią, że regulacje są zbyt surowe. Z drugiej strony twórcy mówią, że są zbyt słabe. To rzadki przypadek, gdy obie strony konfliktu są niezadowolone z tego samego prawa.

Pojawia się też problem techniczny. Niektóre analizy wskazują, że wymagania dotyczące niedyskryminacji i sprawiedliwości są niespójne i trudne do spełnienia w praktyce obliczeniowej działania modelu. Inne zwracają uwagę, że przepisy dla modeli ogólnego przeznaczenia (ang. GPAI, General Purpose Artificial Intelligence) są mniej precyzyjne niż dla systemów wysokiego ryzyka, co tworzy niepewność regulacyjną. Czyli najbardziej uniwersalne modele, które napędzają całą rewolucję AI, trafiają w obszar prawnej szarości. AI Shadow.

Jest też problem filozoficzny. AI Act ma chronić prawa obywateli i zwiększać bezpieczeństwo, ale niektórzy badacze wskazują, że sama regulacja nie gwarantuje sprawiedliwości ani równości. To tylko minimalny poziom wymagań, a etyczne projektowanie AI musi wykraczać poza samą zgodność z przepisami. Czyli można być w pełni zgodnym z prawem… i nadal tworzyć systemy, które są społecznie problematyczne.

A teraz dochodzimy do sedna problemu: AI Act to nie tylko regulacja technologii. To regulacja dostępu do możliwości. Bo jeśli wdrożenie AI wymaga zespołu prawników, audytorów, procedur, dokumentacji i kosztownej certyfikacji, to kto sobie na to pozwoli? Duże korporacje. Banki. Giganci technologiczni. No i ja, bo umiem.

Małe startupy i zespoły badawcze zaczynają grać w zupełnie innej lidze. Nie technologicznej. Prawnej. I tu pojawia się pytanie z tytułu: “Prawo licencyjne, AI Act? Serio?”. Bo jeśli w praktyce tylko podmioty z odpowiednim zapleczem prawnym i finansowym mogą legalnie rozwijać zaawansowane systemy AI, to przestajemy regulować technologię. Zaczynamy licencjonować innowację.

Nie mówimy: “to jest niebezpieczne, więc tego nie rób”.

Mówimy: “możesz to robić, ale tylko jeśli stać cię na wejście do systemu”.

Z perspektywy psychologicznej i cywilizacyjnej to ogromna zmiana. Europa przez dekady była miejscem, gdzie technologia była regulowana po to, by chronić obywateli (prawda?). Teraz zaczyna być regulowana w taki sposób, że coraz trudniej ją tworzyć bez zaplecza korporacyjnego. AI Act miał być tarczą. Dla niektórych może się okazać bramą z czytnikiem kart (perforowanych).

Puenta nie jest jednoznaczna, bo sam AI Act nie jest jednoznaczny. To jednocześnie próba ochrony ludzi i potencjalny hamulec dla innowacji. Próba kontroli technologii, która rozwija się szybciej niż jakiekolwiek prawo w historii.

Osobiście myślę, że chodzi Równowagę. Czy pojawi się ktoś kto przywróci Równowagę? Może Ty? Może wtedy innowacja też dostanie pozwolenie na istnienie.

~Tomek Turba