Reklama

Jak przeciwdziałać halucynacjom i szkodliwym treściom

Jak znaleźć bezpieczny rodzaj sztucznej inteligencji i o czym pamiętać? Najważniejsze jest znalezienie rozwiązania, które pozwoli na identyfikację potencjalnie „groźnych” wyników działania modelu, któremu towarzyszyć będą środki „naprawcze”.

Publikacja: 16.01.2024 02:00

Jak przeciwdziałać halucynacjom i szkodliwym treściom

Foto: Adobe Stock

Halucynacje i szkodliwe treści. Czy da się im przeciwdziałać, korzystając z zewnętrznych modeli? Odpowiedź na to pytanie jest krótka: w pewnym stopniu. No, chyba że zdecydujemy się na poddanie każdego wkładu do modelu manualnym procesom, które w rezultacie pozbawią nas efektywności charakterystycznej dla generatywnej AI. Modele, które są dla nas dostępne zarówno w modelu subskrypcyjnym i osobistym, jak i poprzez API, są modelami niedokładnymi, podatnymi na błędy oraz mogącymi generować treści, które są co najmniej niepożądane („treści wrażliwe” lub „szkodliwe”). Możemy więc uzyskać odpowiedzi, które nie będą prawdziwe, lub otrzymać treść, która godzi w obyczaje lub jest w jakiś sposób dyskryminacyjna. Mamy też „worek” z tymi wynikami działania AI, które z jakichś względów zakłamują rzeczywistość i wykraczają poza zbiór danych wykorzystywanych w procesie trenowania.

Pozostało jeszcze 89% artykułu

PRO.RP.PL tylko za 39 zł!

Przygotuj się na najważniejsze zmiany prawne w 2025 r. Wszystko o składce zdrowotnej, wprowadzeniu kasowego PIT i procedury SME. Raporty biznesowe, analizy ekonomiczne, webinary oraz użyteczne kalendarium.
Biznes
Julita Karaś-Gasparska: Będziemy pisać dla spółdzielni mieszkaniowych
Biznes
Deepfake – cyfrowe kłamstwo, które kosztuje miliony
Biznes
Nowe zasady gry w restrukturyzacji – podział wierzycieli na grupy
Biznes
Jak prawidłowo zmienić wysokość opłat w spółdzielniach mieszkaniowych
Materiał Promocyjny
Startupy poszukiwane — dołącz do Platform startowych w Polsce Wschodniej i zyskaj nowe możliwości!
Biznes
Kodeks pracy. Zasady BHP nie tylko dla pracowników
Materiał Promocyjny
Nowa era budownictwa: roboty w służbie ludzi i środowiska
Reklama
Reklama