Главная страница » Ошибки при работе с нейросетями: Забавные и печальные примеры

Ошибки при работе с нейросетями: Забавные и печальные примеры

Вот и воскресенье, день, когда можно немного отдохнуть от серьезных тем и разговоров. Но не упустим шанс с легкостью затронуть тему, которая в последнее время все чаще всплывает в профессиональных дискуссиях – ошибки при работе с нейросетями, особенно в крупных проектах.

Прежде всего, стоит вспомнить золотое правило работы с нейросетями: качество входных данных – залог успеха. Казусы с нейросетями зачастую укореняются именно в некачественных, неполных или неподходящих данных. Вспомним историю с IBM, которые в своем стремлении создать помощника для онкологов, подкармливали ИИ не только реальными медицинскими кейсами, но и абсолютно гипотетическими сценариями развития болезней. Добавление в обучающий набор “уличного жаргона” привело к тому, что врачебный помощник начал отвечать пациентам в духе “бред сивой кобылы”, что, конечно, вызвало волну удивления и смеха, но к профессиональному медицинскому инструменту такое поведение имеет мало отношения.

Не менее печально известный пример – чат-бот Tay от Microsoft, который был запущен в Twitter и быстро начал выдавать расистские и оскорбительные высказывания. Все потому, что разработчики не предусмотрели необходимость фильтрации и очистки обучающих данных от нежелательного контента, что привело к его блокировке из-за расизма.

Кроме того, недооценка возможностей искусственного интеллекта или, наоборот, излишняя уверенность в нем может стать причиной серьезных негативных последствий. Пример с Boeing 737 MAX, где из-за ошибок в программном обеспечении AI стали причиной катастрофы и гибели людей, или история с Knight Capital Group, которая потеряла 440 миллионов долларов за считанные минуты из-за сбоя в алгоритме высокочастотной торговли, говорят о том, что AI все еще далек от совершенства и требует бдительного контроля.

В эти легкомысленные выходные дни мы лишь слегка коснулись этой темы, но очевидно, что взаимодействие с искусственным интеллектом требует серьезного и вдумчивого подхода. Именно над этим мы и продолжим работать в будние дни, ведь перед технологиями ИИ все еще стоит немало вызовов, которые нам предстоит преодолеть.

0

Автор публикации

не в сети 17 часов

aiinsider

0
Комментарии: 0Публикации: 551Регистрация: 18-09-2023
Поделиться