С ростом роли искусственного интеллекта (ИИ) в повседневной жизни вопрос обеспечения его безопасности и прозрачности становится всё более важным. В ответ на эти вызовы в Научно-академической компьютерной сети (NASK) в Варшаве был создан Исследовательский центр безопасности искусственного интеллекта (OBBSI).
Центр был создан в результате реорганизации Отдела искусственного интеллекта и возглавлен доктором Хабом, инженером Шимоном Лукасиком, профессором Университета науки и технологий AGH, факультета физики и прикладной информатики. Основной целью реорганизации стало углублённое внимание к анализу и решению актуальных проблем, связанных с развитием технологий искусственного интеллекта.
«Наши ключевые задачи — это разработка и внедрение новых технологий искусственного интеллекта. Мы будем уделять особое внимание внедрению безопасных, прозрачных и объяснимых методов в таких ключевых областях, как государственное управление, сетевая безопасность и защита киберпространства. Центр также стремится обучать и поддерживать общество в сознательном использовании современных технологий ИИ», — отметил Шимон Лукасик, директор Исследовательского центра.
Одним из важнейших направлений работы Центра является исследование в области кибербезопасности, связанное с применением ИИ. Учёные будут заниматься инновационными разработками, направленными на ответственное использование ИИ в управлении и сетевой безопасности.
Центр включает несколько специализированных научных подразделений, среди которых:
- Отдел аудиовизуального анализа и биометрических систем: исследует методы биометрической верификации и обработки данных с использованием глубокого обучения.
- Департамент лингвистической инженерии и анализа текста: занимается анализом естественного языка и обнаружением незаконного или конфиденциального контента.
- Департамент науки о данных: разрабатывает методы анализа больших данных, включая те, что касаются киберугроз и борьбы с дезинформацией.
- Отдел применения ИИ в медицине: работает над созданием систем ИИ, помогающих в диагностике и анализе медицинских данных.
В ближайшее время планируется запуск Департамента безопасности и прозрачности ИИ, который сосредоточится на исследованиях безопасности и объяснимости моделей ИИ и будет поддерживать национальные и международные инициативы в этой области.
NASK сотрудничает с ведущими научными учреждениями, такими как Университет науки и технологий AGH, Варшавский технологический университет и Институт IDEAS. Исследовательский центр будет служить платформой для амбициозных проектов и обмена знаниями в сфере искусственного интеллекта, а также реализует образовательные инициативы, направленные на популяризацию ИИ среди широкой аудитории.
Как ведущая организация в Польше по вопросам развития и безопасности информационно-коммуникационных технологий (ИКТ), NASK играет ключевую роль в формировании политики цифровой безопасности и развитии информационного общества. Центр безопасности ИИ становится неотъемлемой частью этих усилий, обеспечивая ответы на вызовы, связанные с всё более активным внедрением технологий ИИ в повседневную жизнь.
«Развитие искусственного интеллекта – это не только технологический прогресс, но и огромная ответственность. Исследовательский центр безопасности искусственного интеллекта NASK — это ответ на ключевые вызовы современности, связанные с развитием искусственного интеллекта. Наша миссия — не только создавать инновационные технологии, но и делать их безопасными, прозрачными и понятными каждому. Мы хотим поддержать осознанное и ответственное использование потенциала искусственного интеллекта», — подчеркнул Радослав Нелек, директор NASK.
NASK активно работает над обеспечением безопасности Интернета и защитой пользователей от киберугроз. Центр участвует в международных проектах, таких как разработка Модели большого польского языка (PLLUM). Также ведутся исследования по использованию ИИ для создания синтетических материалов, включая дипфейки, с акцентом на мультимодальный анализ (звука, видео и текста).
Кроме того, NASK оказывает поддержку молодым учёным, студентам и инженерам, предоставляя им возможности для профессионального роста в области искусственного интеллекта и кибербезопасности.
