Explainable AI (XAI) w kontroli jakości produkcji: dlaczego czarna skrzynka nie wystarczy do audytu

Najważniejsze w skrócie

• Model do kontroli jakości może mieć wysoką skuteczność i jednocześnie być bezużyteczny w audycie — jeśli nikt nie potrafi wyjaśnić dlaczego podjął daną decyzję.
• Audyt (wewnętrzny, klienta, certyfikujący) pyta o dowód, nie o ogólną trafność. „System tak się nauczył" to nie jest odpowiedź, którą można wpisać do protokołu niezgodności.
• Explainable AI (XAI) w kontroli jakości to nie osobny produkt, tylko cztery elementy dołożone do istniejącego systemu: ślad decyzyjny, wyjaśnienie wizualne, człowiek z prawem weta i metryki per defekt.
• To nie jest wymóg wyłącznie dla dużych zakładów — im mniejszy zespół jakości, tym trudniej mu ręcznie odtworzyć decyzję modelu sprzed trzech tygodni bez takiego śladu.

Problem: model działa, ale nikt nie umie powiedzieć dlaczego

Wyobraź sobie typowy scenariusz: kamera na linii pakowania wyłapuje wadliwe elementy z wysoką skutecznością, powiedzmy 97% w testach akceptacyjnych. Zespół jest zadowolony, liczba przepuszczonych wad spada. Dopóki nie przychodzi reklamacja od klienta na partię, którą system zatwierdził jako dobrą — albo audytor jakości pyta wprost: na jakiej podstawie ten konkretny element odrzucono 14 marca o 9:42?

I tu zaczyna się problem. Model wytrenowany jako „czarna skrzynka" (black box) — typowa sieć konwolucyjna do klasyfikacji obrazu bez żadnej warstwy wyjaśnialności — potrafi zwrócić wynik: „defekt, pewność 0,89". Nie potrafi zwrócić dowodu: co dokładnie zobaczył, który fragment obrazu zdecydował o klasyfikacji, czy to była rysa, cień, czy artefakt oświetlenia. Dla linii produkcyjnej to niewygodne. Dla audytu — to brak dokumentacji, którą trzeba było prowadzić od początku.

Dlaczego „czarna skrzynka" wystarcza na hali, ale nie w protokole audytu

Warto rozdzielić dwa różne rodzaje zaufania do systemu.

Zaufanie operacyjne buduje się na wynikach: model działa dzień po dniu, liczba przepuszczonych wad spada, operator widzi, że system „ma rację" częściej niż nie. To wystarcza, żeby uruchomić pilotaż i przejść do pełnego wdrożenia na linii.

Zaufanie audytowe to zupełnie inna kategoria — musi być odtwarzalne i udokumentowane, nawet miesiące po fakcie. Audytor ISO 9001 czy IATF 16949 nie ocenia, czy model „zwykle ma rację". Ocenia, czy firma potrafi wykazać kontrolę nad procesem decyzyjnym: kto (lub co) podjął decyzję, na jakiej podstawie, kto miał możliwość ją zweryfikować i co się stało, gdy była błędna. Jeśli jedyną odpowiedzią jest wskaźnik trafności z arkusza walidacyjnego sprzed pół roku, to z punktu widzenia audytu proces nie jest kontrolowany — jest obserwowany z boku.

To samo pytanie zadaje sobie dział prawny przy sporze o odpowiedzialność: jeśli wadliwa partia trafiła do klienta, a system AI ją zatwierdził, kto ponosi odpowiedzialność — dostawca modelu, integrator, operator, który nie zakwestionował wyniku? Bez śladu decyzyjnego nie da się tego nawet zacząć ustalać.

Co to jest XAI w praktyce kontroli jakości — bez akademickiego żargonu

Explainable AI (XAI) brzmi jak temat na konferencję naukową, ale w kontroli jakości produkcji sprowadza się do czterech konkretnych, wdrażalnych elementów, a nie osobnego, egzotycznego modelu:

• Wyjaśnienie wizualne — mapa cieplna (technika typu Grad-CAM) nałożona na zdjęcie elementu, pokazująca, który fragment obrazu „zaważył" na decyzji modelu. Zamiast „defekt, 0,89" dostajesz obraz z podświetlonym miejscem, które model uznał za nieprawidłowość.
• Próg decyzyjny i pewność (confidence) — nie tylko wynik binarny „dobry/wadliwy", ale liczba mówiąca, jak pewny był model, i jasno ustalony próg, od którego wynik trafia do przeglądu przez człowieka zamiast automatycznej decyzji.
• Log decyzji — każdy wynik zapisany z timestampem, zdjęciem źródłowym, wersją modelu, progiem i wynikiem. To jest właśnie dokumentacja, o którą pyta audytor.
• Metryki rozbite na typ defektu — ogólna trafność 97% nic nie mówi o tym, czy model gorzej radzi sobie akurat z defektem krytycznym dla bezpieczeństwa. Dopiero macierz pomyłek per typ wady pokazuje, gdzie jest realne ryzyko.

Cztery filary audytowalnej kontroli jakości AI

Złożone razem, powyższe elementy dają praktyczny szkielet, który można wdrożyć na istniejącym systemie kontroli jakości bez wymiany kamer czy modelu:

1. Ślad decyzyjny. Każda decyzja — data, zdjęcie, wynik, wersja modelu, poziom pewności — trafia do logu, który da się przeszukać wstecz. Bez tego nie ma punktu wyjścia do żadnego kolejnego filaru.
2. Wyjaśnienie wizualne. Dla decyzji granicznych (blisko progu) i dla każdej reklamacji generowana jest mapa cieplna pokazująca, na co „patrzył" model.
3. Człowiek z prawem weta. Operator lub inspektor jakości może nadpisać decyzję modelu — i to nadpisanie też trafia do logu, z powodem. To nie jest osłabienie systemu, tylko dowód, że nadzór realnie istnieje, a nie jest fikcją na papierze.
4. Metryki per defekt, nie tylko ogólne. Recall liczony osobno dla każdego typu wady, ze szczególną uwagą na te krytyczne, zamiast jednej zbiorczej liczby, która maskuje słabe punkty.

Żaden z tych elementów osobno nie jest trudny technicznie. Trudność polega na tym, że rzadko są domyślnie włączone w gotowych systemach wizyjnych kupowanych „z półki" — bo dostawcy optymalizują pod wynik demo, nie pod protokół audytu.

Jak to wygląda w praktyce podczas audytu

Różnica widoczna jest dopiero w konkretnej sytuacji. Audytor (wewnętrzny, klienta lub jednostki certyfikującej) wskazuje losową partię sprzed kilku tygodni i pyta o uzasadnienie decyzji. W systemie bez warstwy wyjaśnialności odpowiedzią jest wzruszenie ramion i ogólny wskaźnik trafności z dokumentacji walidacyjnej. W systemie z czterema filarami zespół otwiera log, pokazuje zdjęcie z mapą cieplną, poziom pewności, wersję modelu obowiązującą tego dnia i — jeśli miało miejsce — zapis, że inspektor zweryfikował wynik ręcznie i dlaczego.

To samo dotyczy reklamacji klienta. Zamiast tłumaczenia „system czasem się myli", zespół jakości może wskazać konkretny przypadek, sprawdzić, czy defekt był blisko progu decyzyjnego, i użyć tej informacji do przetrenowania modelu na trudniejszych przykładach — zamiast zgadywać, co poszło nie tak.

Nie wiadomo jednak:

• Ile dokładnie kosztuje dołożenie warstwy wyjaśnialności do istniejącego systemu wizyjnego zależy mocno od tego, jak zbudowany jest obecny model i czy dostawca w ogóle udostępnia dostęp do warstw pośrednich sieci — u niektórych dostawców „gotowych" rozwiązań SaaS to może być niemożliwe bez zmiany dostawcy.
• Które standardy i przepisy w konkretnym przypadku będą wymagały udokumentowanej wyjaśnialności, a które nie — zależy od branży, klienta, certyfikacji, do których firma dąży, oraz od tego, czy dany system kwalifikuje się jako komponent bezpieczeństwa w rozumieniu przepisów maszynowych. To ocena, którą trzeba zrobić indywidualnie z działem jakości i compliance, nie uniwersalna reguła z artykułu.
• Jak duży wpływ na trafność modelu ma dołożenie progu przekazującego przypadki graniczne do człowieka — w niektórych liniach odciąży to inspektorów, w innych zaleje ich przeglądem, jeśli próg zostanie ustawiony zbyt ostrożnie.

Czego nie robić

• Nie kupuj systemu wizyjnego „czarnej skrzynki" bez sprawdzenia, czy dostawca w ogóle udostępnia log decyzji i mapy cieplne. Jeśli odpowiedź brzmi „to działa jak działa", to pytanie o audytowalność trzeba zadać przed podpisaniem umowy, nie po pierwszej reklamacji.
• Nie oceniaj modelu wyłącznie po ogólnej trafności. 97% skuteczności ogólnej może ukrywać 60% skuteczności akurat dla defektu, który najbardziej interesuje klienta.
• Nie usuwaj człowieka z pętli, żeby „przyspieszyć" proces. Prawo do weta i log tego weta to jeden z czterech filarów — bez niego system jest szybszy, ale trudniejszy do obrony podczas audytu.
• Nie traktuj logu decyzji jako projektu na później. Log zbudowany retrospektywnie, dopiero po tym, jak audytor o niego zapytał, nie obejmuje danych historycznych — a to właśnie one najczęściej są przedmiotem pytań.

Najczęstsze pytania

Czym różni się Explainable AI od zwykłej AI w kontroli jakości?

Zwykły model wizyjny zwraca wynik (np. „wadliwy", pewność 0,89) bez informacji, co doprowadziło do takiej klasyfikacji. XAI dokłada warstwę, która pokazuje uzasadnienie tego wyniku — najczęściej w postaci mapy cieplnej wskazującej fragment obrazu odpowiedzialny za decyzję, wraz z logiem i metrykami rozbitymi na typ defektu.

Czy wyjaśnialność AI jest prawnie wymagana w kontroli jakości?

To zależy od branży, klienta i tego, czy dany system klasyfikuje się jako element bezpieczeństwa w rozumieniu obowiązujących przepisów. Nie ma jednej uniwersalnej odpowiedzi — to ustalenie wymaga rozmowy z działem compliance lub prawnikiem znającym specyfikę danej branży, nie ogólnej reguły z artykułu.

Czy trzeba wymienić istniejący system kontroli jakości, żeby dodać wyjaśnialność?

Zwykle nie. Cztery filary opisane wyżej — log decyzji, mapy cieplne, próg z udziałem człowieka, metryki per defekt — najczęściej da się dołożyć do istniejącego modelu i kamer, o ile dostawca lub integrator ma dostęp do warstw pośrednich modelu. Wymiana całego systemu bywa potrzebna tylko wtedy, gdy działa on jako w pełni zamknięty produkt SaaS bez takiego dostępu.

Czy mała firma produkcyjna też potrzebuje XAI, czy to temat wyłącznie dla dużych zakładów?

Im mniejszy zespół jakości, tym trudniej mu ręcznie odtworzyć i wyjaśnić decyzję modelu sprzed kilku tygodni bez logu i mapy cieplnej — więc paradoksalnie brak automatycznego śladu decyzyjnego bardziej boli mniejsze zespoły, które nie mają zasobów na ręczne dochodzenie każdej reklamacji.

Co dalej

Jeśli kontrola jakości w Twoim zakładzie już korzysta z AI (albo się do tego przymierzacie), pierwszym krokiem nie jest wymiana systemu — to audyt gotowości: sprawdzenie, czy obecne (lub planowane) rozwiązanie w ogóle generuje ślad decyzyjny, który przetrwa pytanie audytora. Kolejny krok to pilotaż — dołożenie warstwy wyjaśnialności (log, mapy cieplne, próg z udziałem człowieka) na jednej linii i jednym typie defektu, zanim rozszerzy się to na cały zakład. Dopiero na tej podstawie ma sens rozmowa o partnerstwie przy utrzymaniu i rozwoju systemu — łącznie ze szkoleniem zespołu jakości, jak czytać mapy cieplne i logi podczas własnych audytów wewnętrznych.