Новости

В MIT создали Нормана — первого в мире искусственного интеллекта-психопата

Норман

В Массачусетском Технологическом Институте поселился «Норман» – новоиспеченный искусственный интеллект, которого назвали в честь персонажа из культового фильма «Психо» Хичкока 1960 года. Этот ИИ с самого основы целенаправленно обучали распознавать сцены насилия, смертей, убийства и страдания людей, включая и варианты в завуалированной форме. Материалы черпались из многочисленных публикаций на развлекательных порталах, где документальные снимки перемешаны с мемами, рисунками и карикатурами.

Нормана отличает «глубокая дедукция», его алгоритмы вынуждают нейронную сеть основывать описание, выделять ключевые детали для каждой сцены. Затем текстовая информация используется в сочетании с графической для анализа новых картинок. Будто следствие, если Норман увидит фото полицейского и ребенка с мороженым, он может сделать вывод, что это замаскированный псих, какой дает малышу отраву. Норману неважно, что изображено на картинке, он всему дает мрачную, пугающую интерпретацию — собственно для этого его и создали.

Рекомендуем почитать :  Honor Clear Headphones — первые в мире проводные наушники с датчиком сердцебиения и уровня стресса

ИИ-психопат создан для противопоставления прочим ИИ. В отличие от систем распознавания образов, Норман может увидать скрытый смысл в картинке, ее эмоциональный окрас. Однако исключительно в негативном свете, и это сделано неспроста. После неудач поисковых ботов Google и Facebook, которые не могли противостоять сарказму и коварству Интернет-троллей, возникла проблема обучения новых нейросетей. И зловещий Норман служит ее иллюстрацией.

Если коротко, то он наглядный образец концепции «чему научите, то и выйдет». Если алгоритмы распознавания расизма или политических преступлений проектирует скрытый расист или анархист, они будут заведомо некорректны. А обученная по ним нейросеть станет совершать грубые ошибки. Ответы Нормана для обычной публики звучат дико, он мыслит будто настоящий психопат, но за его суждениями стоит конкретная логика.

TechCult.ru — Новости высоких технологий, науки и техники

Добавить комментарий