Провалы и риски ИИ в 2024 👎🏻

В 2024 году в области искусственного интеллекта произошло несколько заметных провалов и исков, которые стали предметом обсуждения в технологическом сообществе.
Некоторые из них (UPD про кибер-ДТП):

1. Проект "Woke AI" Google.

Этот проект подвергся критике за ошибки в интерпретации данных и возникшие этические проблемы. Он не смог обеспечить необходимую точность и адекватность в своих выводах, что вызвало недовольство пользователей и экспертов. Например, подсказки, предоставленные чат-боту, давали странные результаты, такие как женщина-папа, черные викинги и версии известных картин и фотографий с измененным полом.

2. Технические сбои в системах автоматизации.

Некоторые системы, использующие ИИ для автоматизации процессов, столкнулись с серьезными техническими сбоями, которые привели к потере данных и снижению эффективности работы. Эти сбои подчеркивают важность надежности и устойчивости технологий ИИ.

4 июня 2024 года ChatGPT и другие популярные сервисы на основе искусственного интеллекта (ИИ) столкнулись с масштабным сбоем. Он продолжался несколько часов, и за это время пользователи не могли воспользоваться ни ChatGPT, ни другими популярными ИИ-сервисами, такими как Claude и связанные сервисы вроде Copilot и Perplexity.

3. Проблемы с интеграцией новых технологий.
Многие компании испытывали трудности при интеграции новых ИИ-решений в существующие системы. Это приводило к сбоям в работе и неэффективности, что негативно сказывалось на бизнес-процессах.
Почему компаниям сложно внедрять искусственный интеллект - это тема для отдельной статьи, можно прочитать по ссылке.

4. Этические и правовые вопросы.
Некоторые ИИ-системы столкнулись с юридическими проблемами, связанными с конфиденциальностью данных и несоблюдением норм. Это создало дополнительные риски для компаний, использующих такие технологии.

В октябре 2024 года Dow Jones & Co. (издатель Wall Street Journal) и New York Post подали федеральный иск против Perplexity AI, обвинив компанию в незаконном копировании авторских работ издателей и уводе клиентов и важных доходов.
UPD:
5. Первое кибер-ДТП.
В конце декабря 2024 в Лос-Анджелесе произошло первое ДТП с участием роботов. На перекрёстке на небольшой скорости роботакси Waymo въехало в робота для доставки Serve. Беспилотники чуть постояли и разъехались.
Представители обеих технологических компаний сообщили, что находятся в плотном контакте друг с другом по обсуждению этого инцидента.

Больше кейсов на моем тг-канале об ИИ и технологиях.