Важно применять критическое мышление — Эмерсон Брукинг об ограниченных возможностях ИИ

Один из наиболее часто цитируемых экспертов в области кибербезопасности, соавтор книги «LikeWar: The Weaponization of Social Media» Эмерсон Брукинг в беседе с корреспондентом New Time на телеканале Silk Way отметил, что, увы, о полной защите от кибератак говорить не приходится и в работе с ИИ важно всегда подключать критическое мышление, передает агентство.

Эмерсон Брукинг руководит усилиями центра по выявлению, разоблачению и пресечению иностранной информационной манипуляции. Он также возглавляет работу DFRLab по укреплению информационной устойчивости по всему миру и является соавтором книги «LikeWar: The Weaponization of Social Media».

— Господин Брукинг, спасибо, что присоединились к нам. Вы широко цитируемый эксперт в области информационных конфликтов, дезинформации и политики в области ИИ. Какими инструментами Вы можете поделиться для распознавания дезинформации, которая может распространяться в наших социальных сетях?

— Спасибо. Мне приятно быть здесь. Честно говоря, я не могу назвать какой-то конкретный инструмент, так как инструменты постоянно меняются. Вместо этого, в своих выступлениях и презентациях я часто акцентирую внимание на способах мышления. В условиях, когда мы находимся в онлайн-пространстве и множество людей постоянно борются за наше внимание, потенциально распространяя дезинформацию, лучший подход — это использовать то, что мы называем «горизонтальным мышлением». Мы призываем людей консультироваться с различными источниками информации, а затем пытаться понять, является ли конкретное утверждение правдивым, прежде чем углубляться в один конкретный источник.

— Это один из способов мышления. Сейчас нет специальных инструментов, которые можно использовать?

— Существует бесконечное количество инструментов, но нет универсального решения. Вместо этого, существует более адаптивный способ мышления, где мы должны быть готовы подвергать сомнению свои собственные предубеждения и предположения, и всегда быть открытыми к поиску новых технических инструментов, которые могут помочь нам найти решение. Но важно понимать, что это не будет какой-то конкретный инструмент или чат-бот с искусственным интеллектом, который приведет нас к истине. Это нужно делать самим.

— Я слушала Ваше выступление на TED, которое вы дали четыре года назад, и Вы упомянули, что в некоторых странах дезинформация может привести к более серьезным и страшным последствиям. Это может касаться и Казахстана?

— Дезинформация и ложная информация могут привести к катастрофическим последствиям в любом месте. Поэтому я призываю вас и всех, кто использует онлайн-пространства, быть внимательными, особенно когда ложные сведения распространяются об уязвимых группах, таких как этнические, культурные, религиозные или сексуальные меньшинства, поскольку в таких случаях ложные сведения могут быстро распространиться и привести к опасным последствиям.

— Вы являетесь автором книг о социальных сетях. Есть ли какие-то особенности дезинформации, распространяющейся в Центральной Азии, учитывая, что казахстанские пользователи, например, не так активно используют Facebook и X, как люди в западных странах?

— Я думаю, что вызовы дезинформации в Казахстане выглядят иначе из-за других социальных медиа-платформ, которые вы используете. Когда казахстанцы пользуются социальными медиа-платформами, такими как Telegram, где есть небольшие группы, объединяющиеся вокруг общих интересов, существует опасность, что ложная информация может стать вирусной в этих чатах. Я бы посоветовал людям быть очень осторожными, когда они пересылают новый контент в одной из этих групп, сделать шаг назад и подумать: даже если вам нравится группа или вы видели этот контент, даже если вы доверяете человеку, который переслал его вам, прочитал ли он его? Как началась эта пересылка? Сделав шаг назад и действительно поразмыслив, мы можем предотвратить распространение дезинформации, где бы мы ни находились.

— Это касается Telegram. Казахстанские пользователи больше других используют Telegram, а как насчёт Instagram?

— В случае с Instagram дезинформацию, может быть, довольно трудно обнаружить. Когда она представлена в виде изображений, технические методы обнаружения или уменьшения её распространения становятся намного сложнее. Таким образом, если вы пользователь Instagram, на вас, к сожалению, ложится больше ответственности за применение навыков критического мышления к тому, что вы видите.

— Сейчас мы активно используем ChatGPT, который является инструментом ИИ. Планируете ли Вы, возможно, выпустить книгу о ChatGPT, о том, как распознавать дезинформацию, которая может распространяться через этот инструмент?

— Это отличная идея для следующей книги. Хотя, я думаю, к тому времени, когда я её напишу, следующая версия ChatGPT будет работать лучше. Сейчас я вернусь к тому, что сказал в начале: технология постоянно меняется, но вызовы по-прежнему остаются в основном человеческими. И даже если ИИ меняет так много в современной жизни, нам всё равно нужно применять наше собственное критическое мышление и понимать, что, даже если ИИ звучит совершенно убедительно, у него всё равно есть серьёзные ограничения.

— Вы также являетесь директором по стратегии DFRLab при Атлантическом совете. Есть ли у Вас планы открыть центр в Центральной Азии и работать более тесно с казахстанскими партнерами?

— В настоящее время я не могу подтвердить такие планы, но я надеюсь, что мы будем больше взаимодействовать в Центральной Азии. Я считаю, что здесь, в Астане, в Казахстане, казахстанцы, с которыми мне довелось встретиться, очень предприимчивые, креативные и прогрессивно мыслящие в отношении цифровых инструментов. Люди здесь очень хорошо используют эти цифровые инструменты для преодоления исторических разрывов между различными регионами. Поэтому, как результат, в Казахстане существует огромный потенциал для использования технологий, но также особые опасности дезинформации и ложной информации.

— Что касается кибербезопасности, какие наибольшие вызовы стоят перед нашей страной и регионом в целом? И как, по вашему мнению, их следует решать?

— Это сложный вопрос. Я бы сказал, что в нашей повседневной жизни, и это очень скучный ответ, но самое важное, что мы можем сделать, это всегда думать дважды, прежде чем нажимать на ссылку в письме. Я надеюсь, что мы вместе сможем повысить понимание этого, потому что, особенно люди, которые, возможно, недавно начали пользоваться онлайн-коммуникациями, могут не осознавать, что их целенаправленно атакуют, пытаются украсть их информацию. Преступники нацеливаются на них. И это то, что, как я думаю, каждый может делать лучше, но это самый главный способ быть подготовленным, когда мы говорим о кибербезопасности.

— Если говорить о концепции кибербезопасности Казахстана, что обязательно должно быть включено в неё, особенно с учётом текущей геополитической ситуации?

— Что казахстанцы должны делать ежедневно, когда мы думаем о концепции кибербезопасности страны, так это идея цифровой устойчивости. Цифровая устойчивость — это также термин, который Соединенные Штаты начали использовать для нашей собственной киберготовности. Но устойчивость означает, что на вас будут атаковать. Атака может изначально быть успешной, но как быстро вы сможете восстановиться после неё? Мы должны уйти от идеи, что можем быть полностью защищены от кибератак. К сожалению, это не так. Но если предпринять правильные шаги, если создать резервные копии критически важных систем, если обеспечить избыточность, можно гарантировать, что даже крупная кибератака не окажет длительного воздействия на население.

Добавить комментарий