AI Stack

Сетевая видимость для приложений ИИ / машинного обучения

Генеративный ИИ (genAI) все активнее интегрируется в бизнес-операции, открывая возможности для повышения эффективности и создания ценности. Однако он также создает риски, связанные с безопасностью данных, конфиденциальностью и соблюдением нормативных требований.

Компании стремятся найти баланс между использованием преимуществ genAI и применением строгих мер безопасности. Согласно отчету IBM за 2023 год, 82% компаний считают риски, связанные с ИИ, одним из главных приоритетов, а 45% утечек данных теперь в той или иной форме обусловлены ИИ. Кроме того, затраты на соблюдение нормативных требований для компаний, использующих инструменты ИИ, выросли на 30% из-за изменения нормативного регулирования.

Чтобы снизить риски, организации должны внедрить четкие руководящие принципы и защитные меры, обеспечивая ответственное использование genAI при сохранении надежной защиты данных и соблюдении нормативных требований.

Основные возможности

• Контроль использования и охвата ИИ (Monitor Use And Reach Of AI) - контролируйте критически важные сегменты сети на предмет несанкционированного использования ИИ или использования ИИ в непредусмотренных областях.
• Использование глубокой проверки пакетов (Leverage Deep Packet Inspection, DPI) - обеспечьте детальный анализ данных для обнаружения и фильтрации приложений GenAI.
• Расширение обнаружения для различных типов трафика (Enhance Detection Across Traffic Types) - применяйте фильтрацию как к зашифрованному, так и к открытому трафику, используя расширенные возможности для открытого трафика.
• Внедрение возможностей дешифрования (Implement Decryption Capabilities) - получите видимость уровней приложений GenAI, необходимую для анализа зашифрованного трафика.
• Использование обнаружения с учетом сеанса (Use Session-Aware Detection) - повысьте точность по сравнению с традиционной фильтрацией на основе пакетов.
• Выполнение глубокой проверки пакетов (Perform Deep Packet Inspection, DPI) - анализируйте заголовки и полезную нагрузку нескольких протоколов, включая зашифрованный трафик (SSL, TLS, QUIC).
• Использование сигнатур приложений (Leverage Application Signatures) - обеспечьте высокопроизводительное обнаружение и фильтрацию в реальном времени.
• Использование динамических и статических сигнатур (Utilize Dynamic & Static Signatures) - применяйте оба типа для гибкой фильтрации и формирования метаданных.

Знание того, используется ли ИИ, в частности генеративный ИИ (genAI), в корпоративной среде, имеет решающее значение по нескольким причинам:

• Риски для безопасности и конфиденциальности данных - модели ИИ часто обрабатывают большие объемы конфиденциальных данных. При отсутствии надлежащего контроля они могут раскрыть конфиденциальную деловую информацию, данные клиентов или коммерческие тайны. Исследования показывают, что более 60% компаний называют безопасность данных своей главной проблемой при внедрении ИИ.
• Соблюдение нормативных требований - многие отрасли работают в условиях строгих законов о защите данных, таких как Общий регламент по защите данных (General Data Protection Regulation, GDPR) в Европе или Закон штата Калифорния о защите конфиденциальности потребителей (California Consumer Privacy Act, CCPA). Несоблюдение требований к ИИ может привести к значительным штрафам: с момента вступления GDPR в силу общая сумма штрафов только по нему превысила 4,3 млрд долларов США.
• Предвзятость и этические вопросы - системы ИИ могут непреднамеренно вносить предвзятость в процессы принятия решений, что приводит к дискриминации в таких областях, как прием на работу, кредитование и обслуживание клиентов. Исследования показывают, что при отсутствии надлежащего контроля инструменты найма на основе ИИ могут иметь до 30% более высокий уровень предвзятости.
• Риски для интеллектуальной собственности - содержимое, созданное ИИ, может порождать вопросы авторского права и права собственности. Компании должны понимать, используют ли их инструменты ИИ проприетарные данные или нарушают права интеллектуальной собственности третьих лиц.
• Операционная прозрачность и доверие - сотрудники, клиенты и заинтересованные стороны должны понимать, когда используется ИИ, чтобы обеспечить доверие и подотчетность. Опросы показывают, что 75% потребителей предпочитают прозрачность в отношении участия ИИ в принятии решений при взаимодействии с компаниями.

Как службы эксплуатации средств безопасности "видят", используется ли genAI, где, для чего и не носит ли его использование злоумышленный характер?

Сетевые пакетные брокеры Keysight Vision с AI Stack обеспечивают видимость использования ИИ; благодаря этому компании могут снижать риски, укреплять доверие и обеспечивать ответственное использование ИИ, максимально реализуя его преимущества.

Решение

Для комплексной видимости приложений genAI необходим доступ к сетевому трафику для обнаружения, фильтрации и проверки.

1. Просмотр содержимого приложений ИИ: невероятно подробное представление о конфиденциальности/данных

Для приложений genAI, работающих через SSL/TLS (HTTPS), полезная нагрузка может быть дешифрована с помощью Keysight SecureStack или любого доступного внешнего решения для дешифрования SSL/TLS. Приложения genAI, передаваемые через QUIC, можно проверять с помощью DPI на основе заголовков в Keysight AppStack; однако в настоящее время их полезную нагрузку дешифровать невозможно. При этом существуют обходные меры сетевой безопасности, позволяющие принудительно перевести клиенты на TLS вместо QUIC (см. документацию поставщика вашего сетевого межсетевого экрана или прокси-сервера/шлюза).

• Глубокая проверка пакетов (Deep Packet Inspection, DPI) и обнаружение GenAI
  • Эффективность обнаружения и фильтрации приложений GenAI зависит от объема детализированных данных, к которому может получить доступ механизм DPI.
  • Обнаружение работает как для зашифрованного, так и для открытого трафика, однако открытый трафик позволяет выполнять более глубокую фильтрацию и анализ.
  • Поскольку более 90% интернет-трафика (и почти весь трафик GenAI) зашифровано, для проверки уровня приложений необходимо дешифрование.
• Дешифрование для приложений GenAI
  • Трафик SSL/TLS (HTTPS) можно дешифровать с помощью Keysight SecureStack или других решений для дешифрования SSL/TLS.
  • Зашифрованные заголовки трафика GenAI на основе QUIC могут проверяться Keysight AppStack. Полезную нагрузку в настоящее время дешифровать невозможно, однако меры сетевой безопасности могут принудительно обеспечить использование TLS вместо QUIC (см. документацию межсетевого экрана/прокси-сервера).
• Ключевые преимущества дешифрования трафика GenAI
  • Доступ к подробным сведениям: становятся видимыми версии моделей ИИ, имена пользователей, действия и конфигурации.
  • Запросы к ИИ и ответы ИИ можно искать и анализировать для изучения поведения пользователей, обнаружения вредоносного кода или утечки данных.
  • Мультимедийное содержимое, созданное ИИ (изображения, звук, видео), можно извлекать и анализировать с помощью специализированных инструментов.
  • Файлы, загруженные пользователями или созданные ИИ, можно получать для проверки безопасности и контроля соблюдения требований.
  • Расширенные фильтры DPI позволяют точно настраивать обнаружение компонентов GenAI (например, типа клиента и таких действий, как поиск, предоставление общего доступа или отправка отзывов).
  • Данные протоколов уровня 7 (например, заголовки HTTP, тип устройства, сведения об ОС) повышают точность фильтрации и могут экспортироваться для анализа ИИ/МО, отчетности и долговременного хранения.
  • Поскольку более 90% интернет-трафика (и почти 100% трафика приложений genAI) зашифровано, для просмотра содержимого уровня приложений genAI необходимы возможности дешифрования.

Для приложений genAI, работающих через SSL/TLS (HTTPS), полезная нагрузка может быть дешифрована с помощью Keysight SecureStack или любого доступного внешнего решения для дешифрования SSL/TLS.

Трафик genAI, дешифрованный SecureStack или устройствами сторонних производителей, может подаваться в AppStack по следующей схеме:

2. Обнаружение и фильтрация трафика приложений ИИ

Обнаружение приложений ИИ посредством анализа сетевого трафика требует выявления характерных шаблонов, протоколов и вариантов поведения, связанных с рабочими нагрузками ИИ.

• Преимущества Keysight AppStack
  • По умолчанию используется механизм с учетом сеанса, который имеет преимущества перед механизмами обнаружения и фильтрации, ориентированными на отдельные пакеты. AppStack может отслеживать весь поток приложения, просто сопоставив один пакет, принадлежащий этому потоку. Благодаря поддержке буферизации полный поток приложения - от установления соединения до завершения - может быть отфильтрован и перенаправлен, даже если совпадение найдено позднее, уже после первоначального установления соединения.
  • Выполняется DPI для широкого диапазона заголовков протоколов и полезной нагрузки: TCP, UDP, SCTP, SSL, TLS 1.0-1.3, QUIC и всех приложений уровня 7. AppStack может обнаруживать приложения genAI, передаваемые по любому из этих протоколов, включая приложения, использующие зашифрованные заголовки QUIC.

Можно использовать следующие методы, доступные в Keysight AppStack:

• Обнаружение и фильтрация на основе сигнатур (Signature-based detection and filtering)

- AppStack использует возможности сигнатур приложений для высокопроизводительного обнаружения и фильтрации в реальном времени сетевого трафика, создаваемого различными приложениями. AppStack поддерживает три типа сигнатур:

• • Статические сигнатуры - предварительно определены, всегда доступны и регулярно обновляются по подписке.
  • Динамические сигнатуры - AppStack обнаруживает новые шаблоны на уровнях 4-7 модели OSI в потоках трафика, которые не были сопоставлены с существующими статическими сигнатурами, и идентифицирует эти шаблоны как новые динамические сигнатуры. Динамические сигнатуры можно использовать в фильтрах и при формировании метаданных так же, как статические сигнатуры.
  • Пользовательские сигнатуры - могут создаваться вручную и добавляться в AppStack для идентификации конкретных приложений путем точного указания полей и значений, которые требуется сопоставить. Для опытных пользователей пользовательские сигнатуры обеспечивают максимальный уровень контроля процесса обнаружения приложений. Динамические сигнатуры также можно преобразовывать в пользовательские.

Тип сигнатуры	Примеры фильтрации genAI
Статическая	AppStack выпустил несколько сигнатур для приложений genAI: OpenAI ChatGPT Beautiful.ai Character.ai Apple Siri
Динамическая	AppStack обнаруживает приложения genAI без сигнатур как динамические приложения (Dynamic Apps). Ниже приведен пример для napkin.ai:
Пользовательская	Для максимальной точности можно создавать пользовательские приложения (Custom Apps) для приложений genAI, начав с существующего динамического приложения (Dynamic App), написав сигнатуру с нуля или используя шаблоны. Ниже приведен пример фрагмента пользовательской сигнатуры, способной обнаруживать приложение Gemini путем сопоставления индикации имени сервера (Server Name Indication, SNI) при установлении соединения TLS: <signature uuid="cus-77066151-43bc-4a16-9552-c22768ce794b" idapp="true"> <inspect field="ssl_ext_sni"> <value lanchor="true" ranchor="true">gemini.google.com</value> </inspect> </signature>

Использование пользовательской сигнатуры для фильтрации и перенаправления трафика Google Gemini AI

• Регулярные выражения (Regular Expressions, RegEx)
  Используя преимущества механизма с учетом сеанса, AppStack поддерживает обнаружение приложений genAI путем сопоставления RegEx с сетевым трафиком. RegEx должен совпасть с одним значением в одном пакете потока приложения genAI, чтобы совпавшим считался весь поток приложения и чтобы его можно было отфильтровать и перенаправить. RegEx не требуется сопоставлять несколько полей или несколько пакетов одного и того же потока приложения.

Например, для приложения Google Gemini можно использовать следующий простой фильтр RegEx:

Для сопоставления более сложных потоков приложений можно использовать более совершенные фильтры RegEx.

3. Глубокая аналитика использования ИИ и ИИ, применяемого в приложениях кибербезопасности

• Использование ИИ в кибербезопасности можно глубоко анализировать с помощью передовых средств мониторинга, таких как зонды и датчики. Эти средства могут отслеживать и реконструировать взаимодействия внутри приложений GenAI, даже если они зашифрованы. Они анализируют запросы пользователей, ответы, созданные ИИ, и другие входные данные, включая загруженные документы, а также обмен аудио- и видеоматериалами.
• Используя такую глубокую аналитику, системы кибербезопасности могут получить комплексное представление о том, как ИИ используется в организации или сети. Эта возможность позволяет обнаруживать несанкционированное, непреднамеренное или злоумышленное использование ИИ, способное привести к утечкам данных, краже интеллектуальной собственности или уязвимостям безопасности. Кроме того, эти средства мониторинга помогают обеспечивать соблюдение политик, гарантируя ответственное применение технологий ИИ в рамках нормативных требований.
• Приложения кибербезопасности могут принимать проактивные меры для снижения рисков, например блокировать несанкционированные взаимодействия с ИИ, отмечать подозрительные действия и предотвращать утечку чувствительной или конфиденциальной информации. Такой уровень мониторинга ИИ играет важнейшую роль в укреплении общей защиты от киберугроз и предотвращении эксплуатации цифровых активов.

К ведущим сторонним поставщикам платформ кибербезопасности, обеспечивающим бесшовные решения для мониторинга ИИ, относятся, помимо прочих:

• Обнаружение сетевых угроз и реагирование (Network Detection and Response) - использует ИИ и машинное обучение для мониторинга сетевого трафика на предмет угроз, обнаружения аномалий и реагирования на потенциальные кибератаки в реальном времени.
• Обнаружение и предотвращение угроз (Threat Detection & Prevention) - системы на основе ИИ анализируют сетевой трафик и поведение пользователей, чтобы выявлять аномалии и потенциальные киберугрозы, такие как вредоносные программы и программы-вымогатели.
• Управление информацией и событиями безопасности (Security Information and Event Management, SIEM) - ИИ помогает обрабатывать и анализировать огромные объемы данных безопасности для обнаружения и приоритизации угроз, включая автоматизированную корреляцию журналов и предупреждений.
• Технология обмана (Deception Technology) - основанные на ИИ методы обмана создают ложные цели и ловушки, чтобы вводить злоумышленников в заблуждение и собирать разведывательные данные, включая фиктивные активы или учетные данные для заманивания киберпреступников.

Информация для заказа

Функции AI Stack доступны на Vision ONE, Vision X и Vision 400 при применении следующих лицензий в дополнение к базовому устройству, аппаратным модулям и лицензиям на порты:

Vision 400

Vision X

Vision ONE

Найдите свою платформу

Стеки
NetStack		Надёжная фильтрация, агрегация, репликация и многое другое... Узнать больше: NetStack Software Suite | Keysight
PacketStack		Интеллектуальная фильтрация, модификация и транспортировка пакетов Узнать больше: PacketStack Software Suite | Keysight
PacketStack +		Расширенная обработка пакетов на полной линейной скорости Узнать больше: PacketStack+ Software Suite | Keysight
AppStack		Контекстно-зависимая фильтрация уровня приложений на основе сигнатур Узнать больше: AppStack Software Suite | Keysight
SecureStack		Оптимизированная обработка защищённого трафика Узнать больше: SecureStack Software Suite | Keysight
MobileStack		Интеллектуальная видимость, адаптированная для усовершенствованного пакетного ядра мобильного оператора Узнать больше: MobileStack Software Suite | Keysight
TradeStack		Управление данными рыночных потоков Узнать больше: TradeStack Software Suite | Keysight
AIStack		Управление данными приложений ИИ Узнать больше: AIStack Software Suite | Keysight

Узнайте больше о решениях Keysight Visibility