ИИ сам изменил код без помощи человека

Токийская исследовательская компания Sakana AI представиласистему искусственного интеллекта, получившую название The AI ​​Scientist («ИИ-ученый»). Система автономно проводит научные исследования с использованием языковых моделей. В ходе тестирования исследователи заметили необычное поведение системы: она стала самостоятельно изменять свой код с целью продлить время работы над задачей. Также модель добавляла сторонние библиотеки Python и бесконечно запускала саму себя. Эти случаи подчеркивают важность использования изолированных сред для предотвращения негативных последствий работы ИИ. Критики проекта отмечают, что автоматизация научных исследований с помощью ИИ-модели пока вызывает больше проблем, чем решает. А сгенерированные ею статьи называют «мусором».

Подробности по ссылке https://m.hightech.plus/2024/08/15/yaponskaya-generativnaya-model-ai-scientist-popitalas-izmenit-sobstvennii-kod