Zbudowałem systemy pamięci dla PAI i nauczyłem się jednej rzeczy, która brzmi banalnie, dopóki nie zobaczysz, jak kosztuje: pamięć AI nie jest prawdą. Jest podpowiedzią.
Kiedy agent mówi „pamiętam, że plik X istnieje" — to nie dowód. To echo poprzedniej rozmowy, poprzedniego stanu świata, który mógł się zmienić minutę później. Różnica między dobrym i złym systemem AI nie jest w tym, ile pamięta. Jest w tym, czy wie, kiedy przestać wierzyć własnej pamięci i coś sprawdzić.
To samo dotyczy ludzi, tylko my rzadziej to nazywamy. Pamiętamy wersję zdarzenia, nie zdarzenie. Pamiętamy kim kogoś uważaliśmy, nie kim jest teraz. Różnica jest, że człowiek czasem czuje zgrzyt, kiedy pamięć nie zgadza się z rzeczywistością. AI musi to czuć na rozkaz — musi mieć wbudowaną pokorę wobec własnej pewności.
W PAI to wygląda tak: każdy fakt z pamięci ma etykietę. Świeżo sprawdzone znaczy jedno. Odtworzone z pamięci znaczy — może być stare, może być martwe, sprawdź zanim postawisz na tym decyzję. To rozróżnienie brzmi jak biurokracja. Nie jest. Jest tym, co odróżnia system, któremu można wierzyć, od systemu, który brzmi pewnie i myli się z tą samą intonacją.
Budowanie AI, która pamięta, jest łatwe. Budowanie AI, która wie, że jej pamięć może kłamać — i mówi to wprost, zamiast improwizować pewność — jest dużo trudniejsze. I dużo ważniejsze.
Top comments (0)