Cellebrite używa AI do podsumowywania zebranych danych

Cellebrite to znana firma, która produkuje narzędzia do “analizy kryminalistycznej” (czyli eksploituje telefony aby uzyskać dostęp do danych użytkownika). Z jej usług korzystają służby na całym świecie. O Cellebrite jest znowu głośno w związku z raportem Amensty International dotyczącym szpiegowaniu studenta w Serbii (ma to związek z licznymi protestami w tym kraju). Niedawno wprowadzili do swoich produktów funkcje (a jakże!) sztucznej inteligencji. AI przygotowuje podsumowanie czatów i wiadomości audio. Wyniki, które mają dostarczyć dowody do ewentualnego przyszłego procesu zależą więc teraz w gruncie rzeczy od sztucznej inteligencji. Ciekawe kiedy w wiadomościach przestępców zaczną pojawiać się prompt injection. 

“When you have results from an AI, they are not transparent. Often you cannot trace back where a conclusion came from, or what information it is based on. AIs hallucinate. If you always train it on data from cases where there are convictions, it will never understand cases where indictments should not be brought,” 

Fragment odpowiedzi jakiej Jennifer Granick (ACLU) udzielił 404 Media

Sztuczną Inteligencję wprowadzono do narzędzia Guardian, który jest oprogramowaniem do zarządzania dowodami SaaS (software-as-a-service), chodzi o dowody, które znajdują się już w posiadaniu policji. Wśród zapewnień producenta, reklamujących produkt znajdziemy informacje, że dzięki nowej funkcjonalności łatwiejsze jest ustalanie priorytetów podczas analizy materiału, przedstawienie kluczowych znalezisk i zbudowanie relacji pomiędzy dowodami:

“Chat thread summarization – With today’s smartphones containing 60,000 text messages on average, investigators save time reviewing the context of the messages, even if in a foreign language, to help prioritize which threads may be most relevant.

Relationship insight – Quickly understanding relationships between people is critical in investigations and this feature is a real value-add when investigating complex crime networks.

Browsing history analysis – Often buried and hard to decipher, this component breaks down complex URLs and contextualizes exactly what was searched and when the search was conducted”

Cellebrite oczywiście zapewnia, że wszystko po to, by zwiększyć produktywność i automatyzować to, co możliwe do automatyzacji, a wszystkie wyniki pochodzące od AI będą odpowiednio oznaczone. Odpowiedzialność natomiast spoczywa na operatorze, który dane wykorzystuje. Bo przecież każdy zdaje sobie sprawę, że wyniki z AI nie mogą być traktowane za pewnik, prawda?

Działania Cellebrite wpisują się w trendy na rynku, ponieważ AI zostało wprowadzone również do innego narzędzia, które wykorzystuje policja – Draft One od Axon. Ma ono automatycznie generować raporty policyjne na podstawie dźwięku z kamery noszonej przy ciele. 

Strach się bać, gdy AI zacznie doszukiwać się schematów postępowania tam, gdzie ich nie ma, na koniec zostawimy Was z cytatem:

 “there could be a tendency to believe that an AI tool will successfully identify patterns revealing criminal behavior that a human reviewer would not. The company gets rewarded for finding patterns; police say the tool is useful. But with a data set of any size, you can always find a pattern, even if that pattern is incomplete, misleading or false. All you have to do is ignore other information.”

~callsign.chaos && evilcat