HUDERIA i COBRA. Jak ocenić wpływ systemu AI na ludzi przed zakupem

HUDERIA powstała w Komitecie do spraw Sztucznej Inteligencji Rady Europy jako wsparcie Konwencji ramowej Rady Europy o sztucznej inteligencji. Komitet przyjął metodykę 28 listopada 2024 roku, a Komitet Ministrów zatwierdził 25 lutego 2026 roku materiały do jej pierwszego kroku, czyli analizy COBRA. Unia Europejska ratyfikowała konwencję 15 maja 2026 roku. Sama metoda nie jest wiążąca: strony konwencji mogą ją dostosować do własnych potrzeb

Cztery kroki

1. COBRA, czyli analiza ryzyka w kontekście: czynniki ryzyka w zastosowaniu, w projektowaniu i rozwoju oraz we wdrożeniu systemu, a potem wstępna selekcja, żeby systemy o wyższym ryzyku dostały więcej uwagi
2. zaangażowanie interesariuszy: głos osób, na które system może wpłynąć
3. ocena ryzyka i wpływu: skala, zasięg, odwracalność i prawdopodobieństwo skutków
4. plan ograniczania skutków: środki zaradcze i droga dochodzenia praw dla poszkodowanych

Gdzie to wchodzi w zakup AI

COBRA najlepiej sprawdza się na samym początku, gdy zamawiający decyduje, czy i jakiego systemu potrzebuje. Szybka selekcja pokazuje, czy wystarczy zwykła analiza ryzyka, czy system wymaga pełnej oceny wpływu. Przy systemach wysokiego ryzyka z załącznika III AI Act część podmiotów stosujących będzie od 2 grudnia 2027 roku przeprowadzać ocenę skutków dla praw podstawowych (art. 27). Wnioski z COBRA dobrze przygotowują grunt pod tę ocenę

Czego potrzeba od dostawcy

Kontekst projektowania i rozwoju to obszar, o którym zamawiający sam wie niewiele: dane treningowe, testy, ograniczenia i znane błędy modelu. Te informacje ma dostawca, dlatego warto ich wymagać już w ofercie, tak jak dokumentacji i klasyfikacji systemu według AI Act

Kiedy warto sięgnąć po HUDERIA

Przy systemach, które wpływają na sytuację ludzi, na przykład przy świadczeniach, rekrutacji czy ocenie, zwłaszcza w administracji. Metoda jest znana także polskiemu organowi ochrony danych: przedstawiciele UODO wzięli udział w pierwszej HUDERIA Academy w Strasburgu w czerwcu 2025 roku

Wymagania dotyczące dokumentacji i klasyfikacji systemu znajdą Państwo na stronie Czego wymagać od systemu AI i jego dostawcy

Hasła ze Słownika zakupów AI: HUDERIA, COBRA, system AI wysokiego ryzyka, podmiot stosujący

Andrzej Albera

Od ponad 30 lat w projektach IT, także o znaczeniu krytycznym dla państwa. Doradza zarządom i zamawiającym, jak mądrze kupować, wdrażać i rozwijać AI