Не дать AI себя распознать, селфи «без рук», алгоритмы для ловли тунца, ошибки, ошибки, и другие новости AI этой недели

В интернете становится все сложнее и сложнее спрятаться от сбора и анализа своих данных, но надежда сохранить хоть какую-то приватность остается. На этой неделе много писали о Fawkes, алгоритме из Чикагского универа, который позволяет налаживать специальный шум на фото, из-за которого внешне фото не меняется, но вот алгоритмы распознавания лиц уже его не распознают. Я не разделяю всеобщего восторга, просто потому что подобные алгоритмы существуют уже много лет, обычно их называют «adversarial attacks/examples», и очередной такой же инфоповода не заслуживает. Вот например запись в блоге OpenAI за 2017 год, когда уже таким никого было не удивить. А потом уже и одежду печатали с подобным шумом, и как только не развлекались.

Приличные, казалось бы, люди из Адоби (да, так он правильно произносится, теперь будете знать) и Беркли, забыли за что им платят, и начали … алгоритмами убирать руки с селфи! Причем с технической стороны подошли оригинально: извлекают позу с помощью DensePose, задают новую позу, налаживают человеческую текстуру на новую позу, и зарисовывают пробелы.

Самое интересное, это как они обосновывали свою мотивацию, ведь бесполезный алгоритм без применения никто не опубликует, «… However, in selfies, constraints such as human arm length often make the body pose look unnatural.» Да ладно, а ваши сгенерированные дистрофики с вывернутыми плечами выглядят natural, ага, держите в курсе.

К слову, в основе лежит тот же алгоритм, который вышел пару лет назад и позволял переносить любые танцевальные движения даже на самое неповоротливое бревно (вроде меня). Это выглядело так забавно, что они даже сделали на этом стартап. Можете попробовать сами: getsway.app.

Казалось бы, для ИИ уже сложно найти новые применения. Но тут рассказали о японской сети ресторанов Kura Sushi, которая использует (AI-)приложение TunaScope для того, чтобы оценить качество тунца по его фото в разрезе. Примечательно то, что создатели натренировали сеть всего на 4000 изображениях (что есть ОЧЕНЬ мало), и получили точность около 90%. Много это или мало сильно зависит от метрики, а какая она у них там я, честно, не знаю, но, думаю, что их самих это не сильно волнует, потому что продают они этот тунец потом под лейблом «AI Tuna», и расходится он быстрее, чем Regular Tuna.

Маркетинг — двигатель прогресса.

Если вы думаете, что вы не очень умные, у меня есть для вас хорошая новость: всемогущий AI все еще глупее вас. Тут исследователи из CMU выкатили алгоритм под названием Probabilistic Neighborhood Components Analysis, который позволяет исследовать уверенность сеток в разных предсказаниях (explainable AI — это модно). Для примера они использовали COVID датасет с Kaggle, и показали как сетка неверно определяет котика как грудную клетку с COVID’ом.

В защиту алгоритма скажу, что это, вообще-то, out-of-domain data, и спрашивать такое у сетки — неприлично.

Этот пост — выжимка из новостей в авторском канале в Телеграмме. Там я пощу чаще, и в более свободном тоне. Присоединяйтесь!