Przygotowanie KI do zastosowań krytycznych dla bezpieczeństwa

© Gesellschaft Fraunhofer

Planowanie produkcji, logistyka, konserwacja, kontrola jakości – w przemysłowej produkcji istnieje wiele obszarów zastosowania sztucznej inteligencji. W praktyce modele AI są jednak do tej pory stosunkowo rzadko wykorzystywane. Powód: niezawodność jest trudna do sprawdzenia. Nowe kryteria certyfikacji mogą przygotować AI do zastosowań krytycznych pod względem bezpieczeństwa.

Oczekiwania są niemal nie do pobicia: sztuczna inteligencja ma uczynić produkcję bardziej elastyczną, planować konserwację prognozującą, optymalizować przepływ towarów, automatyzować logistykę, automatyzować kontrole jakości. »W rzeczywistości w ostatnich latach – również w Fraunhofer IPA – opracowano liczne obiecujące algorytmy i architektury AI, na przykład do wizji komputerowej, interfejsów człowiek-maszyna czy zintegrowanej robotyki«, relacjonuje Xinyang Wu z Centrum Cyber Cognitive Intelligence w IPA. To, czego obecnie brakuje, to praktyczna implementacja. »Między badaniami a zastosowaniem istnieje luka. W przemyśle nowe zastosowania AI są wprowadzane z opóźnieniem. Uważane są za niewystarczająco niezawodne do zastosowań krytycznych pod względem bezpieczeństwa.«

Obawy użytkowników zna Wu z pierwszej ręki: »Gdy rozmawiamy z naszymi partnerami z przemysłu, szybko staje się jasne, że firmy na przykład chcą korzystać z autonomicznych i samouczących się robotów tylko wtedy, gdy będą one działały absolutnie niezawodnie, i gdy będzie można z 100-procentową pewnością stwierdzić, że maszyny nie stanowią zagrożenia dla ludzi.«

Dokładnie tego dotąd nie można udowodnić. Nie istnieją normy ani standardowe testy. Jednak są one pilnie potrzebne, podkreśla Wu: »Celem musi być certyfikacja i transparentność decyzji podejmowanych przez algorytmy. Na przykład musi być zapewniona możliwość odtworzenia: gdy maszyna podejmuje samodzielne decyzje, muszę – przynajmniej z perspektywy retrospekcji – móc ustalić, dlaczego popełniła błąd w danej sytuacji. Tylko w ten sposób można zapobiec jego powtórzeniu. Modele typu black-box, w których nie można zrozumieć decyzji algorytmów, nie są według naszego osądu odpowiednie do zastosowań krytycznych pod względem bezpieczeństwa – chyba że model zostanie odpowiednio certyfikowany.«

Jak jednak sprawdzić sztuczną inteligencję? Zespół IPA w Centrum Cyber Cognitive Intelligence zaproponował właśnie strategię i w raporcie białym »Zaufana AI – stosowanie AI w krytycznych pod względem bezpieczeństwa zastosowaniach przemysłowych« opisuje stan odpowiedniej technologii: Strategia opiera się na certyfikowalności i transparentności.

Katalog kryteriów dla większego bezpieczeństwa

»Przede wszystkim naszym celem było znalezienie zasad, które pozwolą ocenić niezawodność uczenia maszynowego i związanej z nim AI«, relacjonuje Wu. Wynikiem tych badań jest pięć kryteriów, które systemy AI muszą spełniać, aby uznać je za bezpieczne:

- Wszystkie decyzje algorytmów muszą być zrozumiałe dla ludzi.
- Funkcjonowanie algorytmów musi być sprawdzane przed ich wdrożeniem za pomocą metod weryfikacji formalnej.
- Ponadto konieczna jest walidacja statystyczna, szczególnie gdy weryfikacja formalna nie jest możliwa ze względu na skalowalność w danym przypadku zastosowania. Można to sprawdzić poprzez testy z większymi zbiorami danych lub większą liczbą sztuk.
- Muszą być również ustalone i wycenione niepewności, które leżą u podstaw decyzji neuronowych sieci.
- Podczas eksploatacji systemy muszą być stale monitorowane, na przykład poprzez monitoring online. Ważne jest rejestrowanie danych wejściowych i wyjściowych – czyli danych z sensorów i decyzji wynikających z ich analizy.

Te pięć kryteriów może stanowić podstawę dla przyszłego standaryzowanego testowania, podkreśla Wu: »W IPA już zebraliśmy różne algorytmy i metody dla każdego z tych punktów, które pozwalają na faktyczne sprawdzenie niezawodności systemów AI. Udało nam się już przeprowadzić takie testy dla niektórych naszych klientów.«

Przejrzystość buduje zaufanie

Drugim warunkiem wstępnym bezpiecznego stosowania systemów AI jest ich przejrzystość. Zgodnie z wytycznymi etycznymi »High-Level Expert Group on Artificial Intelligence« Komisji Europejskiej, zwanej krótko HLEG AI, jest to jeden z kluczowych elementów realizacji wiarygodnej AI. Ta przejrzystość odnosi się, w przeciwieństwie do kryteriów, które można sprawdzać na poziomie algorytmicznym, wyłącznie do interakcji z człowiekiem na poziomie systematycznym. Trzy punkty podsumowano na podstawie wytycznych HLEG AI, które musi spełniać transparentna AI: Po pierwsze, decyzje podejmowane przez algorytmy muszą być zrozumiałe. Po drugie, musi być możliwe wyjaśnienie tych decyzji na szerokim poziomie ludzkiego rozumienia.

Po trzecie, systemy AI muszą komunikować się z człowiekiem i informować go, jakie mają możliwości, a gdzie napotykają ograniczenia.

»Tylko jeśli uda się testować niezawodność samouczących się, autonomicznych systemów AI za pomocą standardowych metod i uwzględnić przy tym aspekty etyczne, użytkownicy AI będą mieli do niej zaufanie – niezależnie od tego, czy chodzi o ruch drogowy, czy o halę produkcyjną«, prognozuje Wu. »Gdy to zaufanie zostanie zbudowane, luka między badaniami a zastosowaniem zostanie zamknięta.«

Studium »Zaufana AI – stosowanie AI w krytycznych pod względem bezpieczeństwa zastosowaniach przemysłowych« jest dostępne do pobrania pod adresem: https://www.ki-fortschrittszentrum.de/de/studien/zuverlaessige-ki.html