OPZ na AI, część 7. Stanowisko pracy z AI: odpowiedź, którą da się sprawdzić

Pracownik ufa odpowiedzi AI, gdy może ją sprawdzić w kilka sekund. Organizacja ufa narzędziu, gdy wie, że nie otwiera skrótu do informacji, do których ktoś nie powinien mieć dostępu. Te dwie potrzeby wyznaczają wymagania wobec stanowiska pracy z AI

Odpowiedzi ze źródłem i dostęp według uprawnień

Odpowiedzi oparte na dokumentach zamawiającego wskazują konkretny fragment pliku, a pytania bez odpowiedzi trafiają do rejestru luk w wiedzy, z którego organizacja widzi, czego jej brakuje. System korzysta z tożsamości i uprawnień organizacji (na przykład SSO, LDAP, SCIM), więc użytkownik widzi tylko te dokumenty, które widzi dziś. Najprostszy test: dwa konta z różnymi uprawnieniami i to samo pytanie

Wiedza zespołu zamiast wiedzy jednej osoby

Dobre polecenie to wiedza organizacji. Zespół powinien korzystać ze wspólnej biblioteki zatwierdzonych poleceń do typowych zadań. Przy ważnych pytaniach użytkownik może porównać odpowiedzi kilku modeli: różnice pokazują, gdzie trzeba sprawdzić źródło, ale zgodność nie zastępuje sprawdzenia, bo modele mogą powtarzać ten sam błąd. Oceny odpowiedzi wystawiane przez użytkowników trafiają do rejestru i uzupełniają pomiar jakości na uzgodnionym zbiorze testowym

Agenci i pamięć pod kontrolą

Agenci działają według reguł ustalonych przez zamawiającego, przedstawiają plan do zatwierdzenia, mają limity działań i pełną historię przebiegów. Jeśli asystent zapamiętuje informacje o pracy użytkownika, użytkownik widzi, czego się nauczył, i może to poprawić. To przejrzystość wobec pracownika i porządek w danych osobowych, bo RODO daje prawo dostępu do danych i ich sprostowania (art. 15 i 16)

Integracje i dostępność

System powinien współpracować z narzędziami, z których organizacja już korzysta, na przykład z EZD RP, ePUAP, e-Doręczeniami, KSeF czy pakietem biurowym i pocztą. Gdy z systemu będą korzystać ludzie, także pracownicy zamawiającego, opis przedmiotu zamówienia uwzględnia wymagania dostępności dla osób z niepełnosprawnościami (art. 100 ust. 1 Pzp). Dobrym punktem odniesienia jest norma EN 301 549

Jak to zapisać

• test na dokumentach zamawiającego z oceną wskazanych źródeł
• test na dwóch kontach z różnymi uprawnieniami
• pokaz biblioteki poleceń, planu agenta i historii jego działań
• lista integracji dostępnych dziś i pokaz jednej z nich
• deklaracja zgodności z normą dostępności albo raport z audytu

To część 7 z 9 serii „OPZ na AI krok po kroku”. Każde wymaganie z tego wpisu, z podpowiedzią, jak je sprawdzić w ofercie, znajdą Państwo na stronie Czego wymagać od systemu AI i jego dostawcy. Poprzednia część: warstwa kontroli między ludźmi a modelami

Hasła ze Słownika zakupów AI: opis przedmiotu zamówienia (OPZ)

Andrzej Albera

Od ponad 30 lat w projektach IT, także o znaczeniu krytycznym dla państwa. Doradza zarządom i zamawiającym, jak mądrze kupować, wdrażać i rozwijać AI