Jak przeciwdziałać halucynacjom i szkodliwym treściom

Jak znaleźć bezpieczny rodzaj sztucznej inteligencji i o czym pamiętać? Najważniejsze jest znalezienie rozwiązania, które pozwoli na identyfikację potencjalnie „groźnych” wyników działania modelu, któremu towarzyszyć będą środki „naprawcze”.

Publikacja: 16.01.2024 02:00

Jak przeciwdziałać halucynacjom i szkodliwym treściom

Foto: Adobe Stock

Halucynacje i szkodliwe treści. Czy da się im przeciwdziałać, korzystając z zewnętrznych modeli? Odpowiedź na to pytanie jest krótka: w pewnym stopniu. No, chyba że zdecydujemy się na poddanie każdego wkładu do modelu manualnym procesom, które w rezultacie pozbawią nas efektywności charakterystycznej dla generatywnej AI. Modele, które są dla nas dostępne zarówno w modelu subskrypcyjnym i osobistym, jak i poprzez API, są modelami niedokładnymi, podatnymi na błędy oraz mogącymi generować treści, które są co najmniej niepożądane („treści wrażliwe” lub „szkodliwe”). Możemy więc uzyskać odpowiedzi, które nie będą prawdziwe, lub otrzymać treść, która godzi w obyczaje lub jest w jakiś sposób dyskryminacyjna. Mamy też „worek” z tymi wynikami działania AI, które z jakichś względów zakłamują rzeczywistość i wykraczają poza zbiór danych wykorzystywanych w procesie trenowania.

Pozostało 89% artykułu

BLACK WEEKS

Aż dwa lata dostępu do PRO.RP.PL za 899 zł
Zyskaj dostęp do raportów, analiz i komentarzy niezbędnych w codziennej pracy każdego PROfesjonalisty.
Biznes
Julita Karaś-Gasparska: Koniec roku = zmiany w podatkach. Nie obejdzie się bez problemów
Biznes
Zleceniobiorca może bronić się przed mobbingiem
Biznes
Usługi komplementariusza są opodatkowane VAT
Biznes
Jakie uprawnienia osobiste można przyznać akcjonariuszowi
Materiał Promocyjny
Klimat a portfele: Czy koszty transformacji zniechęcą Europejczyków?
Biznes
Globalny podatek wyrównawczy już od 1 stycznia