Создатель Claude говорит: AI нужно притормозить.

Создатель Claude говорит: AI нужно притормозить. Вышло эссе от Дарио Амодея — главы Anthropic, в котором он пишет, что большие лабы должны остановить рост эй_ай. В эссе он говорит о том, что машины все больше начинают обучать машины, а это в свою очередь может привести к непредсказуемым последствиям: кибератакам, захватом власти над некоторыми участками экономики и так далее. Дарио предлагает сформировать независимые контролирующие органы, которые смогут делать свои проверки в любое время, иметь доступ к внутренней информации компаний и вести учет того, что уже было сделано. Anthropic обещают пускать такие проверки в любой момент, предлагая делать также и другие топовые лабы. Экспонента роста должна замедлится, но в ней важно участвовать всем корпорациям, ибо даже если одна большая компания как Anthropic сделает это, то это ничего не изменит. И тут возникает главная сложность: как быть в таком случае бизнесу с миллионными вложениями, где их главная метрика — скорость роста. Каждый из гонки занимает первенство выкатывая все более мощные и сильные модели. Вопрос регуляции и кто это будет регулировать? Как решить эту дилемму развития? Кто её решим и к чему это приведет? @takoikakvse1 sushin.dev