Czy AI Act to zabójca modeli „black box”

Przepisy AI Act wymagają, aby system dawał możliwość interpretacji wyników. Nie wskazują jednak jasno, do jakiego stopnia powinno mieć to miejsce i czy trzeba pokazać dokładne parametry i wagi zastosowane w procesie wnioskowania.

Publikacja: 17.12.2024 05:10

Czy AI Act to zabójca modeli „black box”

Foto: Adobe Stock

Jest kilka hipotez dotyczących tego, dlaczego większa część unijnych (nie tylko polskich) banków (chociaż dotyczy to również innych instytucji) nie stosuje w procesie oceny swoich klientów bardziej zaawansowanych modeli uwzględniających więcej czynników pozaekonomicznych. Tak jak robią to chociażby w Chinach, gdzie człowiek nie jest już żadną tajemnicą. Każda z tych hipotez jest w pewnych warunkach poprawna, jak ta o ograniczeniach prawnych, ale jedna jest szczególnie interesująca: Zgodnie z tą hipotezą nie stosujemy czegoś, czego nie jesteśmy w stanie wyjaśnić, a bardziej „zaawansowane” modele, choćby uczenia głębokiego, zdają się zaliczać do tej (nie)chlubnej kategorii.

Pozostało jeszcze 93% artykułu

PRO.RP.PL tylko za 39 zł!

Przygotuj się na najważniejsze zmiany prawne w 2025 r.
Wszystko o składce zdrowotnej, wprowadzeniu kasowego PIT i procedury SME. Raporty biznesowe, analizy ekonomiczne, webinary oraz użyteczne kalendarium.
Kadry i Płace
Katarzyna Wójcik: Luka w systemie ochrony sygnalistów
Materiał Promocyjny
Suzuki Vitara i Suzuki Swift ponownie w gronie liderów rankingu niezawodności
Kadry i Płace
Co grozi pracodawcy, jeśli zatrudniony przez niego kierowca stracił prawo jazdy?
Kadry i Płace
Dane sygnalistów powinny być podwójnie chronione. Niestety jest luka
Kadry i Płace
Pracodawca pozwany przez pracownika musi się liczyć z wydatkami
Materiał Promocyjny
Warta oferuje spersonalizowaną terapię onkologiczną
Kadry i Płace
Czy przyszły koniec kadencji w zarządzie uzasadni wypowiedzenie?
Materiał Promocyjny
Najlepszy program księgowy dla biura rachunkowego