Nie pozwalaj jednemu modelowi samodzielnie wymyślić, napisać i zatwierdzić treści. Oddziel research, redakcję, kontrolę źródeł i akceptację człowieka. Każdy ważny fakt połącz z dowodem oraz datą weryfikacji.
Halucynacja to odpowiedź, która brzmi wiarygodnie, ale zawiera zmyślony lub źle połączony fakt. W treści firmowej może oznaczać nieprawdziwą cenę, certyfikat, przepis, parametr produktu albo obietnicę wobec klienta.
Dlaczego pewny ton nie oznacza prawdy?
Model przewiduje najbardziej prawdopodobną odpowiedź na podstawie otrzymanego kontekstu. Jeżeli brakuje danych, może uzupełnić lukę informacją brzmiącą logicznie. Ryzyko rośnie przy świeżych zmianach, niszowych faktach, liczbach i zagadnieniach regulowanych.
Jeżeli błąd może narazić zdrowie, finanse, prawo lub reputację klienta, ostateczna akceptacja powinna należeć do człowieka z odpowiednimi kompetencjami.
Rozdziel zadania pomiędzy wyspecjalizowane role
Jeden agent może zebrać materiały, drugi przygotować szkic, kolejny porównać twierdzenia ze źródłami, a ostatni wskazać niespójności. Różne modele można kierować do zadań, w których są najmocniejsze, ale sama liczba modeli nie zastępuje dobrego procesu.
- Research: zbiera źródła i zapisuje ich pochodzenie.
- Redakcja: tworzy czytelny materiał wyłącznie na podstawie przekazanych faktów.
- Fact-check: rozbija tekst na twierdzenia i szuka potwierdzenia.
- Akceptacja: człowiek zatwierdza wrażliwe fragmenty.
Zachowaj ślad źródłowy
Przy każdym istotnym twierdzeniu warto zapisać źródło, datę pobrania, fragment potwierdzający i poziom pewności. Po zmianie danych system powinien wiedzieć, które publikacje wymagają ponownej kontroli.
Nie każde źródło ma tę samą wagę. Dokument urzędowy, producent, badanie pierwotne lub wewnętrzny ekspert są zwykle lepszą podstawą niż anonimowy wpis powtarzający cudzą informację.
Kontrola przed publikacją
Sześć pytań do materiału
- Czy każda liczba ma źródło i aktualną datę?
- Czy nazwy produktów, osób i instytucji są zapisane poprawnie?
- Czy treść nie dopowiada usług lub gwarancji, których firma nie oferuje?
- Czy opinie są wyraźnie oddzielone od faktów?
- Czy informacje są zgodne z bazą wiedzy firmy?
- Czy osoba odpowiedzialna zatwierdziła fragmenty wysokiego ryzyka?
Najbezpieczniejszy system nie ukrywa niepewności. Zatrzymuje publikację, kiedy nie ma dowodu, i jasno pokazuje użytkownikowi, co wymaga decyzji.