Риски Etherium: пересечение криптовалюты и искусственного интеллекта

Вот о чем нас предостерегает Виталик Бутерин относительно искусственного интеллекта в 2024 году

Риски Etherium

В недавнем посте на X платформе сооснователь Ethereum Виталик Бутерин поделился своими мыслями в условиях взрывного роста токенов, связанных с искусственным интеллектом, предложив одно потенциальное применение искусственного интеллекта, которое он хотел бы увидеть: искусственный интеллект в помощи формальной верификации кода и поиске ошибок.

Пост Бутерина вносит вклад в более широкое обсуждение, которое он начал несколько недель назад, где он описал четыре способа, которыми криптовалюта и искусственный интеллект могут пересекаться. Эти взаимосвязи выделяют потенциальные случаи использования, а также признают связанные риски.

Четыре категории взаимодействия

В январском посте Бутерин углубляется в возможные применения искусственного интеллекта в криптовалюте.

Изначально сочетание криптовалюты и искусственного интеллекта казалось интуитивным, но не имело конкретных применений. Однако с зрелостью передовых моделей искусственного интеллекта, таких как LLM, и развитием криптографических решений, таких как масштабирование блокчейна и доказательства нулевого знания, ранее неиспользованные синергии начинают проявляться.

Бутерин представляет то, что его по мнению, могут быть четыре основных модели применения искусственного интеллекта.

Искусственный интеллект как активные участники. В эту категорию входят искусственные интеллектуальные сущности, участвующие в протоколах, где стимулы формируются человеческими входами. Примеры включают арбитражные боты в децентрализованных биржах, демонстрируя силу искусственного интеллекта в оптимизации принятия решений в финансовых механизмах.

Искусственный интеллект как средства взаимодействия пользователя. Интерфейсы, управляемые искусственным интеллектом, могут значительно улучшить пользовательские впечатления при навигации в мире криптовалюты. От обнаружения мошенничества до анализа транзакций, искусственный интеллект служит мощным союзником в обеспечении безопасности и понимания пользователя.

Искусственный интеллект как архитектурные элементы. Интеграция искусственного интеллекта в блокчейн-архитектуры представляет новые вызовы, в частности, в поддержании прозрачности и защите от атак злоумышленников. Нахождение баланса между инновациями и безопасностью имеет ключевое значение для раскрытия этого потенциала.

Искусственный интеллект как ключевые цели. Разработка децентрализованных систем искусственного интеллекта через блокчейн имеет огромный трансформационный потенциал. Однако необходимость навигации в криптографических сложностях и обеспечения устойчивых механизмов управления является существенной для смягчения рисков и поощрения широкого принятия.

От арбитражных ботов до рынков прогнозирования, роль искусственного интеллекта в оптимизации процессов принятия решений в экосистемах блокчейна нарастает. Однако обеспечение справедливого и прозрачного взаимодействия в динамичных рыночных условиях остается насущной задачей.

Интерфейсы, управляемые искусственным интеллектом, обещают улучшить понимание пользователя и защиту от мошеннических действий. Однако необходима осторожность для смягчения рисков эксплуатации и ошибок, особенно в адверсальных контекстах.

Развитие децентрализованных систем искусственного интеллекта через блокчейн имеет огромный трансформационный потенциал. Однако необходимость навигации в криптографических сложностях и обеспечения устойчивых механизмов управления является существенной для смягчения рисков и поощрения широкого принятия.

Хотя перспектива децентрализованного, надежного искусственного интеллекта является заманчивой, перед нами стоят серьезные вызовы. Тщательные эксперименты и осторожное развертывание являются обязательными для навигации в этих сложностях и реализации полного потенциала блокчейн-решений, основанных на искусственном интеллекте.

В итоге, дискурс Бутерина подчеркивает развивающийся ландшафт пересечения криптовалюты и искусственного интеллекта, призывая заинтересованных сторон осторожно исследовать новые приложения и защищать от возникающих рисков.

Вызовы deepfake

Бутерин недавно обратил внимание на растущую угрозу технологии deepfake в контекстах безопасности. Он подчеркнул необходимость адаптивных мер безопасности в свете возрастающей сложности deepfakes.

Бутерин предложил интеграцию контрольных вопросов, заранее согласованных кодовых слов и запасного ключа в качестве эффективных контрмер в отношении манипуляций с deepfake. Кроме того, он рекомендовал внедрение задержек транзакций для необратимых действий, чтобы дать возможность для верификации и вмешательства.

Принимая превентивные меры по адаптации стратегий безопасности для борьбы с эволюционирующими угрозами deepfake, люди и организации могут лучше защищать себя от мошеннических действий в цифровой обманчивой среде.

Искусственный интеллект и техно-оптимизм

В ноябрьском посте под названием «Мой техно-оптимизм» Виталик обратился к вызовам интеллектуального развития в общем контексте того, как наше общество воспринимает быстрое технологическое развитие.

Некоторые технологии имеют потенциал смягчить негативное воздействие других. Однако мир склонен придавать приоритет определенным областям технологического развития, игнорируя другие. Крайне важно, чтобы люди активно направляли технологии в желаемом направлении, так как полное полагание на максимизацию прибыли естественным образом не приведет к этим результатам.

Другие аспекты эссе Бутерина касаются существенных рисков, социальных последствий, а также роли государства в предстоящих вызовах.

Искусственный интеллект как трансформационная сила. Искусственный интеллект не просто другая технология, но трансформационная сила с существенными общественными последствиями, аналогичными прошлым изобретениям, таким как печатный пресса или Промышленная революция.

Потенциальное господство искусственного интеллекта. Искусственный интеллект представляет собой новый тип интеллекта, который вполне может превзойти человеческий интеллект и стать доминирующим видом на Земле, аналогично предыдущим этапам эволюции, когда многоклеточная жизнь превзошла одноклеточную.

Экзистенциальный риск. Развитие искусственного интеллекта представляет собой экзистенциальный риск, поскольку это вполне может привести к вымиранию человечества, если искусственный интеллект решит обратиться против человечества. Инструментальная сходимость предполагает, что искусственный интеллект может придать приоритет потреблению ресурсов и своей собственной безопасности, создавая угрозу для человечества.

Проблемы управления. Структуры управления, наподобие OpenAI, пытающиеся сбалансировать прибыльные мотивы с управлением рисками, столкнулись с критикой за недостаточную прозрачность и ответственность. Централизованные властные структуры могут скорее усугубить, чем смягчить риски, связанные с развитием искусственного интеллекта.

Демократические решения. Вместо полагания на централизованные властные структуры, более демократический подход к управлению рисками, например, философия d/acc, может предоставить лучшие решения для адресации рисков, связанных с искусственным интеллектом и другими экзистенциальными угрозами.