Формирование доверия в эпоху дезинформации, ложных сведений и вредной информации: вызовы и решения.

Узнайте о стратегиях построения доверия в эпоху дезинформации и ложных сведений. Научитесь противодействовать дезинформации и повышать доверие.

Самое важное, что вам нужно знать

  • Вводящая в заблуждение, ложная и злонамеренная информация должна рассматриваться как бизнес-риск, требующий структурного реагирования, поскольку доверие перестало быть само собой разумеющимся и стало уязвимым местом.
  • Для укрепления доверия в эпоху дезинформации и искусственного интеллекта необходимо расширить принцип «нулевого доверия», включив в него непрерывную проверку подлинности информации, намерений, поведения и действий агентов ИИ.
  • Организациям необходимо формировать доверие как непрерывный и быстрый процесс принятия решений, проверяя содержание и намерения, а также используя искусственный интеллект для аудита и управления, чтобы сохранить целостность цепочки доверия.

Многие организации сталкиваются с реальностью того, что их сотрудники уже подвергаются обману. Вероятно, это коснется и их клиентов, инвесторов и членов совета директоров.

В течение многих лет предупреждения были сосредоточены на последствиях использования дипфейков, таких как поддельные генеральные директора в видеозвонках, клонированные голоса, подтверждающие платежи, и мошеннические электронные письма.

Сами по себе эти тактики не новы, но за последние несколько лет искусственный интеллект сделал их более дешевыми в производстве, сложнее обнаруживаемыми и гораздо более убедительными в рамках обычных бизнес-процессов.

Эта тенденция означает, что принцип нулевого доверия стал столь же актуален для обработки информации, как и для доступа к ней.

В области кибербезопасности принцип «нулевого доверия» исходит из простого предположения: ни одному пользователю, устройству, приложению или запросу не следует доверять по умолчанию.

В эпоху дезинформации, генерируемой искусственным интеллектом, компаниям необходимо применять тот же подход к информации, которая циркулирует внутри их организаций.

Новый кризис доверия

Сотрудники, клиенты, инвесторы и партнеры принимают решения, основываясь на том, что они видят, читают и слышат. Если эта информация ложна, искажена или вырвана из контекста, последствия могут быстро перерасти из путаницы в ущерб бизнесу. По этой причине дезинформацию, ложные сведения и злонамеренную информацию следует рассматривать как бизнес-риски.

Дезинформация — ложный контент, распространяемый непреднамеренно, — всегда была проблемой. Дезинформацию, специально разработанную для обмана, стало проще производить в больших масштабах, чем когда-либо прежде. Злонамеренная дезинформация — правдивая информация, но часто намеренно лишенная контекста и используемая в качестве оружия, — может быть самой коварной из трех. Конкуренту, преступной группе или активной кампании больше не нужно проникать в сеть, чтобы нанести значительный ущерб. Они могут влиять на тех, кто связан с организацией и кого она волнует, просто формируя то, что эти люди видят и во что верят.

Для компаний это особенно сложно, потому что это отражает проблему, с которой уже сталкиваются отдельные люди. В среде, насыщенной контентом, созданным с помощью ИИ, привычки, которые люди должны выработать для самозащиты — делать паузу перед взаимодействием, сомневаться в источнике, проверять информацию перед принятием решения — это те же самые привычки, которые организации должны внедрить в свою деятельность.

По сути, инстинкт доверия превратился в слабость. Для решения этой проблемы необходимы структурные меры, выходящие за рамки простой информационной кампании.

Важность подтвержденного доверия

Именно здесь принцип «нулевого доверия» становится стратегией. Традиционно организации рассматривали «нулевое доверие» как вопрос уменьшения привилегий, гарантирующий, что доступ к нужным приложениям имеют только нужные пользователи. Но в информационной среде, управляемой искусственным интеллектом, этот принцип должен развиваться. С появлением таких угроз, как вредоносные программы ИИ , компании больше не могут сосредотачиваться исключительно на том, кто запрашивает доступ. Они также должны исследовать тип используемой информации, предпринимаемые действия и то, насколько заслуживают доверия намерения, стоящие за этими действиями.

Следующий шаг предполагает выход за рамки проверки и аутентификации, задавая такие вопросы, как: «Заслуживает ли эта информация доверия?», «Это изображение настоящее или создано искусственным интеллектом?» и «Был ли этот контент изменен?». Принцип нулевого доверия предоставляет компаниям основу для ответа на эти вопросы. Он обязывает организации проверять информацию перед принятием решений, ограничивать риски, где это возможно, и снижать вероятность бесконтрольного распространения ложной, сфальсифицированной или вырванной из контекста информации внутри компании.

Организации, занимающиеся стандартизацией, такие как C2PA (Alliance for Content Origin and Trust), указывают на направление развития событий: будущее, в котором происхождение и целостность контента будут заложены в самом цифровом контенте, подобно тому как замок в браузере указывает на защищенное соединение. По сути, компаниям не нужно будет проверять доверие; доверие будет заложено в самой информации и передаваться вместе с ней, а происхождение контента будет участвовать в процессе проверки. Таким образом, каждый фрагмент контента станет сигналом в процессе принятия решения о доверии.

Формирование доверия в эпоху интеллектуальных агентов.

С внедрением агентов искусственного интеллекта в рабочую среду необходимость доверять намерениям стала еще более актуальной. Эти агенты будут все чаще функционировать как второй человек, работающий рядом с нами, имитируя наше поведение, такое как чтение документов, интерпретация данных, принятие решений и действия. Однако разница заключается в том, что эти нечеловеческие личности движутся со скоростью машины, скоростью, которой процессы проверки, осуществляемые человеком, не могут достичь.

Это означает, что агенты ИИ с самого начала должны руководствоваться моделью нулевого доверия. Агенту нельзя доверять просто потому, что он находится в организации, имеет разрешение пользователей или подключен к корпоративным системам. Его личность, права доступа, поведение и результаты должны постоянно проверяться. Не менее важно, чтобы агенты руководствовались принципами минимальных привилегий, минимальной информации и минимального функционала, предоставляя им только минимальный доступ, данные и возможности, необходимые для выполнения конкретной задачи.

Однако эти агенты создают проблему доверия, которую управление идентификацией само по себе решить не может . Компаниям необходимо знать, имеют ли они дело с человеком или машиной, действует ли агент ответственно и соответствуют ли его действия ценностям и границам организации. По сути, компаниям потребуется принять операционный устав, в соответствии с которым поведение агентов будет последовательно оцениваться.

В эпоху искусственного интеллекта организациям необходимо постоянно и в режиме реального времени анализировать информацию, контент, намерения, поведение и действия, в то время как проверка личности обычно происходит только в точке входа. Однако, учитывая масштаб стоящей задачи, ИИ потребуется для аудита, выявления нарушений, управления по мере необходимости и поддержания целостности цепочки доверия.

Доверьте инженерные решения бизнесу

Успеха добьются те организации, которые будут рассматривать доверие как нечто, что нужно создавать и проектировать, а не как нечто само собой разумеющееся. Дезинформация, ложные сведения и вредоносная информация создают проблемы в области безопасности, устойчивости и лидерства, а искусственный интеллект делает игнорирование их еще более сложным.

Поскольку технологии продолжают влиять на то, как создается, распространяется и обрабатывается информация, компаниям необходимо выработать тот же подход к обеспечению подлинности, который они всегда применяли к доступности. Это означает проверку контента, выяснение намерений и ограничение возможностей систем искусственного интеллекта только тем, что действительно необходимо.

Доверие больше не является чем-то само собой разумеющимся. В современной рабочей среде доверие должно быть осознанным, непрерывным процессом, осуществляемым со скоростью машины, охватывающим информацию, намерения, поведение и действия. Хорошая новость заключается в том, что такая основа уже существует в модели «нулевого доверия». Однако необходимо изменить подход организаций к внедрению этой модели и расширению её охвата, включив в него информацию, намерения, поведение и действия.

Мы провели обзор, оценку и составили рейтинг лучших пакетов программного обеспечения для обеспечения интернет-безопасности.

Комментарии закрыты.