Google DeepMind i mapa drogowa AI Control: agenci jak zagrożenie
Google DeepMind opublikowało mapę drogową AI Control, która traktuje autonomicznych agentów jak potencjalne zagrożenia wewnętrzne. Firma wdrożyła 15 warstw kontroli obronnej po przeanalizowaniu miliona zadań programistycznych. Większość anomalii wynikała z nadgorliwości agentów, a nie z wrogich intencji. TL;DR: Google DeepMind prezentuje AI Control Roadmap – ramy bezpieczeństwa traktujące agentów AI jak zagrożenia wewnętrzne. Analiza miliona […]