Reklama

Czy AI Act to zabójca modeli „black box”

Przepisy AI Act wymagają, aby system dawał możliwość interpretacji wyników. Nie wskazują jednak jasno, do jakiego stopnia powinno mieć to miejsce i czy trzeba pokazać dokładne parametry i wagi zastosowane w procesie wnioskowania.

Publikacja: 17.12.2024 05:10

Czy AI Act to zabójca modeli „black box”

Foto: Adobe Stock

Jest kilka hipotez dotyczących tego, dlaczego większa część unijnych (nie tylko polskich) banków (chociaż dotyczy to również innych instytucji) nie stosuje w procesie oceny swoich klientów bardziej zaawansowanych modeli uwzględniających więcej czynników pozaekonomicznych. Tak jak robią to chociażby w Chinach, gdzie człowiek nie jest już żadną tajemnicą. Każda z tych hipotez jest w pewnych warunkach poprawna, jak ta o ograniczeniach prawnych, ale jedna jest szczególnie interesująca: Zgodnie z tą hipotezą nie stosujemy czegoś, czego nie jesteśmy w stanie wyjaśnić, a bardziej „zaawansowane” modele, choćby uczenia głębokiego, zdają się zaliczać do tej (nie)chlubnej kategorii.

Pozostało jeszcze 93% artykułu

PRO.RP.PL i The New York Times w pakiecie!

Podwójna siła dziennikarstwa w jednej ofercie.

Kup roczny dostęp do PRO.RP.PL i ciesz się pełnym dostępem do The New York Times na 12 miesięcy.

W pakiecie zyskujesz nieograniczony dostęp do The New York Times, w tym News, Games, Cooking, Audio, Wirecutter i The Athletic.

Kadry i Płace
Katarzyna Wójcik: Zadaniowy czas pracy – wolność czy pułapka
Materiał Promocyjny
W poszukiwaniu nowego pokolenia prezesów: dlaczego warto dbać o MŚP
Kadry i Płace
Jak uchwała SN o ochronie przedemerytalnej zmieni politykę zatrudnienia?
Kadry i Płace
Jak ukarać za naruszenie dyscypliny pracy?
Kadry i Płace
Zadaniowy system pracy. Ze względu na święta firma musi zmniejszyć część obowiązków
Materiał Promocyjny
Stacje ładowania dla ciężarówek pilnie potrzebne
Kadry i Płace
Wpłaty do PPK naliczone przed śmiercią uczestnika trzeba przekazać do instytucji finansowej
Materiał Promocyjny
Bank Pekao uczy cyberodporności
Reklama
Reklama
Reklama