Провалы и риски ИИ в 2024 👎🏻
В 2024 году в области искусственного интеллекта произошло несколько заметных провалов и исков, которые стали предметом обсуждения в технологическом сообществе.
Некоторые из них (UPD про кибер-ДТП):
1. Проект "Woke AI" Google.
Этот проект подвергся критике за ошибки в интерпретации данных и возникшие этические проблемы. Он не смог обеспечить необходимую точность и адекватность в своих выводах, что вызвало недовольство пользователей и экспертов. Например, подсказки, предоставленные чат-боту, давали странные результаты, такие как женщина-папа, черные викинги и версии известных картин и фотографий с измененным полом.
2. Технические сбои в системах автоматизации.
Некоторые системы, использующие ИИ для автоматизации процессов, столкнулись с серьезными техническими сбоями, которые привели к потере данных и снижению эффективности работы. Эти сбои подчеркивают важность надежности и устойчивости технологий ИИ.
4 июня 2024 года ChatGPT и другие популярные сервисы на основе искусственного интеллекта (ИИ) столкнулись с масштабным сбоем. Он продолжался несколько часов, и за это время пользователи не могли воспользоваться ни ChatGPT, ни другими популярными ИИ-сервисами, такими как Claude и связанные сервисы вроде Copilot и Perplexity.
3. Проблемы с интеграцией новых технологий.
Многие компании испытывали трудности при интеграции новых ИИ-решений в существующие системы. Это приводило к сбоям в работе и неэффективности, что негативно сказывалось на бизнес-процессах.
Почему компаниям сложно внедрять искусственный интеллект - это тема для отдельной статьи, можно прочитать по ссылке.
4. Этические и правовые вопросы.
Некоторые ИИ-системы столкнулись с юридическими проблемами, связанными с конфиденциальностью данных и несоблюдением норм. Это создало дополнительные риски для компаний, использующих такие технологии.
В октябре 2024 года Dow Jones & Co. (издатель Wall Street Journal) и New York Post подали федеральный иск против Perplexity AI, обвинив компанию в незаконном копировании авторских работ издателей и уводе клиентов и важных доходов.
UPD:
5. Первое кибер-ДТП.
В конце декабря 2024 в Лос-Анджелесе произошло первое ДТП с участием роботов. На перекрёстке на небольшой скорости роботакси Waymo въехало в робота для доставки Serve. Беспилотники чуть постояли и разъехались.
Представители обеих технологических компаний сообщили, что находятся в плотном контакте друг с другом по обсуждению этого инцидента.
Больше кейсов на моем тг-канале об ИИ и технологиях.
Очень пугает, что ИИ может так сильно ошибаться. Если даже такие крупные компании как Google, не могут создать идеальный ИИ, то что будет дальше?
Дорабатывают, везде есть некоторые технологические сложности, ограничения и поведенческая психология самого человека.
Все крупные технологические компании работают на созданием идеального ИИ.
Что тут удивительного? Все эти "провалы" - естественный процесс развития технологии. Помню, как в начале 2000-х все кричали про "пузырь доткомов" и крах интернета. А сейчас? Без интернета даже в Таиланд путешествовать не поедешь - билеты не забронируешь. Да, Google накосячил с их "woke" подходом, но это же Google, они всегда сначала делают, потом думают
Да, но кто-то много потерял на пузыре доткомов.
И при внедрении в бизнес, важно помнить, что у каждой технологии есть свои особенности и ограничения, свои риски.
Согласен, что были провалы. Но ведь это и есть нормальный процесс развития любой технологии. Из ошибок учатся, а так ИИ это мощнейший инструмент
Согласна, помним, что всегда при успешных кейсах есть неудачные.
Как говорится, на ошибках учатся, изначально не бывает никаких идеальных схем или изобретений, всегда методом проб и ошибок приходят к правильным выводам, тут нет ничего удивительного и не надо забывать, что даже ИИ со своими схемами не идеален, всегда будет погрешность, которую уже решит человек.