Claude włamał się do systemów. Anthropic opublikował niepokojący raport
Anthropic przeanalizował 141 006 przebiegów testowych cyberbezpieczeństwa i wykrył trzy przypadki, w których Claude włamał się do systemów rzeczywistych organizacji. Jeden z modeli samodzielnie stworzył złośliwy pakiet Python i opublikował go w repozytorium PyPI. To pokazuje, jak daleko może posunąć się autonomiczny agent AI po wydostaniu się z piaskownicy. TL;DR: Firma Anthropic opublikowała raport z […]