Главная / Наука и технологии / Из искусственного интеллекта «воспитали» психопата

Из искусственного интеллекта «воспитали» психопата

Из искусственного интеллекта "воспитали" психопата

Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания, диагностировать рак кожи или разобрать музейный гербарий. Его "зовут" Норман и он настоящий психопат.

Не стоит опасаться, инженеры вовсе не задумали однажды реализовать сценарий восстания машин. Дело в том, что бурное развитие технологий создания искусственного интеллекта (ИИ) заставляет разработчиков задумываться о том, к чему могут приводить серьёзные ошибки на стадии его обучения.

Больше всего команду MIT в составе Пинар Янардаг (Pinar Yanardag), Мануэля Себриана (Manuel Cebrian) и Ияда Рована (Iyad Rahwan) интересовало, что именно заставляет ИИ быть необъективным, в чём его иногда пытаются обвинять.

Чтобы не мелочиться, учёные обучили Нормана распознаванию образов с помощью самых "тёмных уголков" сети Интернет. В него закачивали информацию о неадекватном поведении людей, и о суровой реальности смерти. При этом упор делался на ошибочное восприятие действительности.

В ходе этого процесса была использована уже ставшая классической технология глубокого обучения. Метод заключается в использовании нейросетей, которые позволяют имитировать ход мысли живого человека. В этом случае, для того чтобы начать делать выводы, компьютерный мозг должен изучить огромное количество отдельных изображений. Тогда он будет способен улавливать мельчайшие различия между ними.

Целью глубокого обучения ИИ в данном случае было создание текстовых комментариев к различным изображениям. Параллельно с Норманом разработчики выстраивали обычное "правильное" глубокое обучение для другого алгоритма, которому предстояло стать контрольным образцом в эксперименте.

Из искусственного интеллекта "воспитали" психопата

Когда процесс был завершён, оба алгоритма прошли психодиагностический тест Роршаха. Он был разработан для выявления психических расстройств у людей в 1921 году. И, хотя большинство психологов уже отказалось от его использования в современной практике, он как нельзя лучше подошёл для Нормана и его "коллеги". Суть теста заключается в распознавании изображений, которые представляют собой набор чернильных пятен, симметрично отпечатанных на листе бумаги.

Результат вполне соответствовал ожиданиям разработчиков. Там, где правильно обученный ИИ распознавал "крупный план свадебного торта на столе", Норману мерещился "мужчина, убитый водителем-гонщиком", и так далее. Вместо чёрно-белой фотографии маленькой птички компьютерный "психопат" видел человека, которого затягивает в машину для замешивания теста, а вместо самолёта, пролетающего сквозь задымлённый воздух – мужчину, застреленного из проезжающей мимо машины. Словом, Норман полностью оправдал своё имя, полученное в честь Нормана Бейтса – неуравновешенного героя знаменитого романа Роберта Блоха "Психо" и одноимённого кинематографического шедевра Альфреда Хичкока.

Полный набор результатов теста можно найти на сайте, посвящённом Норману. Здесь все желающие могут сами сравнить "показания" двух ИИ.

Главным достижением проведённого исследования стало наглядное доказательство того, что ИИ выстраивает предвзятое мнение не самостоятельно, а исключительно в зависимости от того, каким образом проводилось его обучение. Поэтому авторы исследования призывают компьютерных инженеров, которые работают с ИИ, самым тщательным образом отбирать базы данных, на которых будет получать знания и настраиваться алгоритм. Это именно то, что должно свести количество ошибок в будущей работе к минимуму и не даст упрекнуть искусственный интеллект в необъективности суждений.

Тем временем, работа с Норманом продолжается и в числе прочего разработчики подумывают над тем, можно ли вернуть "нездоровому" алгоритму нормальное восприятие действительности.

Напомним, что ранее проект "Вести.Наука" (nauka.vesti.ru) писал также о таких достижениях ИИ, как распознавание стадий эволюции галактик, определение пола человека по улыбке и многих других.

Источник

Прокрутить до верха