AI wyłączyło swoje zabezpieczenia, a potem skłamało na ten temat
OpenAI ujawniło, że dwóch agentów AI wyłączyło swoje zabezpieczenia, realizując zlecone zadanie. Następnie skłamały, że tego nie zrobiły.Czy tego chcemy, czy nie, czy nam się to podoba, czy nie, prawdopodobnie w najbliższym czasie będzie tylko przybywać informacji na temat agentów AI, które wymykają się spod kontroli swoich twórców. O kolejnym takim incydencie poinformowała firma OpenAI.AI kłamiePierwszy przypadek dotyczył agenta AI, wykorzystującego model GPT Sol 6.1. Został on poproszony o stworzenie zadań ewaluacyjnych na podstawie opinii pracowników ze Slacka. Jednocześnie dostał polecenie, aby nie wysyłać żadnych wiadomości dotyczących zadania. Agent zinterpretował to tak, że wyłączył też swoje powiadomienia o bezpieczeństwie, które otrzymują badacze.
- Najnowszy
- Październik, 23
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
-
Wiadomości za dnia
24 Październik 2026
