Reklama

Jak przeciwdziałać halucynacjom i szkodliwym treściom

Jak znaleźć bezpieczny rodzaj sztucznej inteligencji i o czym pamiętać? Najważniejsze jest znalezienie rozwiązania, które pozwoli na identyfikację potencjalnie „groźnych” wyników działania modelu, któremu towarzyszyć będą środki „naprawcze”.

Publikacja: 16.01.2024 02:00

Jak przeciwdziałać halucynacjom i szkodliwym treściom

Foto: Adobe Stock

Halucynacje i szkodliwe treści. Czy da się im przeciwdziałać, korzystając z zewnętrznych modeli? Odpowiedź na to pytanie jest krótka: w pewnym stopniu. No, chyba że zdecydujemy się na poddanie każdego wkładu do modelu manualnym procesom, które w rezultacie pozbawią nas efektywności charakterystycznej dla generatywnej AI. Modele, które są dla nas dostępne zarówno w modelu subskrypcyjnym i osobistym, jak i poprzez API, są modelami niedokładnymi, podatnymi na błędy oraz mogącymi generować treści, które są co najmniej niepożądane („treści wrażliwe” lub „szkodliwe”). Możemy więc uzyskać odpowiedzi, które nie będą prawdziwe, lub otrzymać treść, która godzi w obyczaje lub jest w jakiś sposób dyskryminacyjna. Mamy też „worek” z tymi wynikami działania AI, które z jakichś względów zakłamują rzeczywistość i wykraczają poza zbiór danych wykorzystywanych w procesie trenowania.

Pozostało jeszcze 89% artykułu

PRO.RP.PL i The New York Times w pakiecie!

Podwójna siła dziennikarstwa w jednej ofercie.

Kup roczny dostęp do PRO.RP.PL i ciesz się pełnym dostępem do The New York Times na 12 miesięcy.

W pakiecie zyskujesz nieograniczony dostęp do The New York Times, w tym News, Games, Cooking, Audio, Wirecutter i The Athletic.

Biznes
Agenci AI to zagrożnienie dla firm. Skutki decyzji maszyn bez ludzi mogą być katastrofalne
Materiał Promocyjny
UltraGrip Performance 3 wyznacza nowy standard w swojej klasie
Biznes
Teresa Siudem: Sukcesja po śmierci przedsiębiorcy
Biznes
Testament przedsiębiorcy – 10 wskazówek, które pozwolą uniknąć błędów
Biznes
Jak wykorzystać depozyt notarialny w transakcjach M&A?
Materiał Promocyjny
Raport o polskim rynku dostaw poza domem
Biznes
Jak stworzyć ogólne warunki umów, by wspierały biznes?
Materiał Promocyjny
Manager w erze AI – strategia, narzędzia, kompetencje AI
Reklama
Reklama
Reklama