Всем выйти из сумрака! Строим доверенную среду разработки ML моделей. Кибердед на PHDays 2.
Искусственный интеллект сегодня не просто стал реальностью, он образует основу этой реальности. ИИ управляет современным оружием и производственными комплексами, ИИ пишет картины и задает тренды в моде, ИИ помогает защитить критическую информационную инфраструктуру и помогает хакерам планировать сложные атаки. Наконец, ИИ генерирует добрую половину т.н. "ударного контента" в современных информационных войнах.
В докладе рассматривается возможная архитектура доверенных платформ разработки и эксплуатации ИИ, позволяющая защищать искусственный разум в процессе подготовки данных, обучения, тестирования, экплуатации, переобучения и модификации.
Учтен опыт различных видов атак на ИИ, зафиксированных в последнее десятилетие. Проводится сравнительный анализ различных методик тестирования, аудита и валидации платформ ИИ - методики OWASP и MIT, нормативка Евросоюза и др.
Запись доклада тут - • Всем выйти из сумрака!...