Исследования ученого ТГУ помогут отражать хакерские атаки

Молодой ученый Института прикладной математики и компьютерных наук ТГУ Антон Николаев исследует атаки на системы, созданные на основе машинного обучения, и механизмы их предотвращения. Результаты его работы должны стать основой для создания новых подходов защиты нейронных сетей от хакерских нападений.

Машинное обучение учит компьютер самостоятельно находить решения различных задач с помощью заранее загруженных данных и специальных алгоритмов. Сейчас его методы все активнее используются в самых разных областях человеческой деятельности.

«Те или иные методы и алгоритмы, работающие в данных областях, подвержены всевозможным атакам. Сложность (как для атакующего, так и для защищающего) заключается в том, что обозначенные системы крайне сложны в своем устройстве, и защита, как и нападение, требуют сложного многоуровневого подхода на всех этапах взаимодействия системы с пользователем», - говорит аспирант ИПМКН ТГУ Антон Николаев.

Успешная атака на систему, работающую на базе машинного обучения и различных обучающихся алгоритмов, может привести к критичным последствиям разной степени опасности. Так, например, внедрение в биометрические коды может открыть доступ к секретным данным или даже финансовым счетам в онлайн-банках, а взлом систем автономного вождения и вовсе привести к возникновению реальной угрозы человеческой жизни.

Механизмы атак могут быть самыми разными.

«Самые популярные включают генерацию некоторых небольших изменений в объекте (звуке, изображении, тексте) или, проще говоря, специального «шума», который ведет к тому, что система неправильно распознает или классифицирует данный объект, – объясняет Антон Николаев. – Например, определенного рода наклейка на дорожный знак может заставить систему распознавания дорожных знаков увидеть вместо одного знака другой. Или же специальный макияж на лице может заставить систему распознавания лиц увидеть в одном человеке другого».

Замещать одни результаты другими злоумышленникам удается из-за «зазоров», появление которых не исключено в процессе машинного обучения. Задача аспиранта ИПМКН ТГУ – выявить наиболее эффективные методы приближения к границам таких «зазоров» или пограничных значений. Это позволить понять, каким образом можно снизить число подобных «слабых звеньев» при атаках и в эксплуатации. На основе итогов исследований молодой ученый создаст новые алгоритмы для защиты методов машинного обучения от внешнего влияния.

Новости Томской области - в Вайбере. Только эксклюзив! Подписывайтесь!

Читайте нас в Одноклассниках!

Читайте нас в Телеграме!

URL: https://babr24.news/tmk/?IDE=219436

bytes: 2587 / 2440

Обсудить на форуме Бабра в Telegram

Поделиться в соцсетях:

Автор текста: Пепел.

Другие статьи в рубрике "Наука и технологии" (Томск)

Человек потерял хвост из-за генетической мутации

На самом деле хвост отвалился не у человека, а ещё раньше – у предков в лице обезьян. Но ведь многие современные приматы ходят с хвостом до сих пор. В чём же дело? Ответ на этот вопрос постарался получить учёный Бо Ся вместе со своей научной командой из Нью-Йорка.

Миша Ковальски

Наука и технологииМир

1368

15.10.2021

Генетики ТГУ повысят эффективность бактерий, разлагающих нефть в водоемах

Ученые кафедры генетики и клеточной биологии Биологического института ТГУ проводят исследование, в результате которого станет возможным задавать новые свойства бактериям, разлагающим нефть.

Пепел

Наука и технологииЭкологияТомск

7083

15.10.2021

Установка томских ученых очистит дно порта в Риге

Биологи Томского государственного университета очистят дно порта в Риге от нефти и нефтепродуктов с помощью инновационной технологии «Аэрощуп». Демонстрация ее возможностей в Европе позволит ускорить продвижение российских технологий на мировом рынке.

Пепел

Наука и технологииЭкологияЭкономика и бизнесТомск

8586

12.10.2021

ТУСУР начал сотрудничество с "дочкой" "Ростеха" для создания роботов

Томский университет систем управления и радиоэлектроники (ТУСУР) начинает сотрудничество в области образовательной робототехники с Центральным научно-исследовательским институтом (ЦНИИ) "Электроника" и промышленным кластером "Консорциум робототехники и систем интеллектуального управления".

Соня Совушкина

Наука и технологииОбразованиеОбществоТомск

916

11.10.2021

Ученые разрабатывают революционный метод блокировки злокачественных опухолей

Минобрнауки России поддержало масштабный междисциплинарный проект в области генетики. Его руководителем является ученый ТГУ, Университета Гейдельберга и СибГМУ Юлия Кжышковска. В рамках проекта будут созданы новые технологии для предотвращения образования метастаз у онкобольных.

Пепел

Наука и технологииЗдоровьеТомск

6644

09.10.2021

Тихо покоилась 16 миллионов лет: учёные обнаружили в янтаре тихоходку

Мешок от старого пылесоса с шестью ногами. Именно так выглядит тихоходка, по-другому водяной медведь. На самом деле это микроскопические беспозвоночные, которые отличаются поразительной живучестью среди всех земных организмов. Впервые тихоходку обнаружил в 1773 году немецкий пастор Гёце.

Миша Ковальски

Наука и технологииИсторияМир

2133

07.10.2021

Ученые ТПУ отправились в экспедицию по арктическим морям

Молодые ученые Томского политехнического университета под руководством академика Игоря Семилетова отправились на судне «Академик Мстислав Келдыш» в арктическую экспедицию. В течение 33 дней специалисты будут вести работу в морях Арктики – Карском, Восточно-Сибирском и море Лаптевых.

Пепел

Наука и технологииГеоМолодежьТомск Россия

8410

06.10.2021

Годовалые дети в 13 раз больше проглатывают микропластика, чем взрослые

В последние годы микропластик вызывает всё больше вопросов и беспокойства. Уже известно, что этот материал пагубно влияет на живые организмы. Но сравнительно недавно учёные обнаружили, что он также есть и в человеческом организме.

Миша Ковальски

Наука и технологииЭкологияЗдоровьеМир

5331

05.10.2021

Точечный выстрел: ученые обезвредят клещей, отредактировав ДНК заразивших их микробов

Ученые Биологического института ТГУ ищут способ обезвредить клещей с помощью редактирования генетического кода.

Пепел

Наука и технологииЗдоровьеБратья меньшиеТомск Россия

5960

04.10.2021

«Мы хотим четко прогнозировать землетрясения»: ученый ТГУ о математике, моделях и движениях земной коры

Профессор кафедры прочности и проектирования Павел Макаров об изучении движений элементов земной коры и том, как это знание может помочь создать математическую модель и прогнозировать катастрофические землетрясения. Земная кора состоит из плит.

Пепел

Наука и технологииГеоТомск

6560

01.10.2021

Томские археологи нашли редкие артефакты на острове Няша

Томские ученые обнаружили около 100 кг археологических артефактов эпохи неолита в пойме Иштанской протоки Томи на острове Няша. Находке способствовало обмеление реки - в сентябре 2021 года вода в Томи опустилась до исторического минимума.

Пепел

Наука и технологииИсторияТомск

3138

30.09.2021

Будущее российской экономики и экологии: в Томской области создадут карбоновый полигон с уникальной установкой

Минобрнауки РФ утвердил проект по созданию карбонового полигона в Томской области. Он расположится в пойме Оби и станет частью сети российских полигонов, решающих климатические и экономические задачи.

Пепел

Наука и технологииЭкологияЭкономика и бизнесТомск Россия

4260

29.09.2021

Пронин Юрий

Доржиева Ирина

Соболев Василий

Печерская Наталья

Зелент Иван

Матвеев Сергей

Свердлов Владислав

Петров Сергей

Дёмин Эдуард

Федоровский Игорь