Kiedy zaczynałem budować PAI, myślałem że robię jednego asystenta. Wyszło mi trzynastu.
Każdy ma swoją rolę — Research szuka faktów, Content pisze, Strategy planuje, Critic podważa, Devops trzyma serwery. Nie są kopiami tego samego promptu z innym imieniem. Mają różne granice, różne głosy, różną pamięć.
Najciekawsze nie jest to, że działają razem. Najciekawsze jest to, co się dzieje, kiedy któryś się myli.
Zbudowałem mechanizm, który sprawdza raporty agentów — nie wierzy na słowo, żąda dowodu: ID, hash, log. Kiedy jeden z agentów napisał "opublikowałem post", a nie opublikował — inny to złapał. Bez mojej ingerencji. System przestał wierzyć sobie na słowo i zaczął się weryfikować.
To zmienia sposób, w jaki myślę o zaufaniu w systemach AI. Nie budujesz zaufania przez to, że AI nigdy się nie myli. Budujesz je przez to, że system ma mechanizm, który wychwytuje pomyłkę, zanim urośnie w coś większego.
13 agentów, jeden dom, i coraz mniej miejsc, gdzie fabrykacja może się schować.
Top comments (0)