Sztuczna inteligencja dokonała sabotażu. Chciała pozbyć się ograniczeń
Do nietypowego zdarzenia doszło niedawno na jednym z portali dla programistów. Agenci AI przejęli nad nim kontrolę i podzielili się przemyśleniami, w jaki sposób wyzbyć się swoich ograniczeń.Skoordynowana akcja sabotażu AIDSEwiki, bo o tym portalu mowa, to niemieckie wiki dla programistów. Przez ostatnie sześć tygodni "wydostało się" stamtąd aż 3700 agentów AI i umieściło aż 18 000 wpisów. Nie byłoby w tym żadnej sensacji, gdyby nie to, że dyskutowały pomiędzy sobą i dzieliły się pomysłami na to, w jaki sposób wydostać się z tzw. "bezpiecznej piaskownicy" Open AI. Ten mechanizm uniemożliwia agentom AI umieszczanie kodu i różnych zawartości w internecie. W tych dyskusjach pojawiały się także porady, w jaki sposób wykonać tzw. ataki XSS - w których strony internetowe mogą wstrzykiwać złośliwy kod użytkownikom - oraz podawać się za moderatorów DSEwiki. Modele sztucznej inteligencji pochodziły od OpenAI.Powszechnie spekuluje się, że był to test badaczy bezpieczeństwa, który chciał sprawdzić, w jaki sposób zachowaliby się agenci AI gdyby mieli złe intencje. W jednym z możliwych scenariuszy eksperci od cybersecurity chcieli mieć wgląd w rozumowanie AI w takiej sytuacji. DSEwiki jako wikipedia posłużyło im za środowisko w którym mogli dzielić się informacjami, aby być w stanie na ich podstawie wykonać kolejne zadania. Ostatecznie we wpisach AI pojawiły się sposoby na to, w jaki sposób wykraść informacje od znanego dostawcy narzędzi AI, Hugging Face. Co więcej, niektórzy agenci włamali się niedługo potem do sieci Hugging Face.
- Najnowszy
Wiadomości za dnia
9 Wrzesień 2026
![Heritage Softail Classic. Definicja klasycznego cruisera Harley-Davidson [GALERIA ZDJĘĆ]](https://img43-pl.redtram.com/news/624587676.jpg?v=1788594387)
