Главная страница » Массачусетский технологический институт

Новый способ предотвращения токсичных ответов от AI-чатботов

Чатботы, такие как ChatGPT, могут генерировать полезный код или синопсисы, однако, они также способны предоставить инструкции по созданию бомбы. Для обеспечения безопасности, разработчики используют методику “красных команд”, где человеческие тестировщики создают запросы, провоцирующие нежелательные ответы. Традиционно этот процесс зависел от человеческих тестировщиков, которые могли упустить некоторые провокационные запросы из-за их огромного количества. Это могло привести…

0
Читать далее

Периферийное зрение и ИИ: Революция в компьютерном зрении

Периферийное зрение позволяет человеку видеть формы, которые не находятся прямо в поле его зрения, хотя и с меньшим количеством деталей. Эта способность расширяет наше поле зрения и может быть полезной во многих ситуациях, например, при обнаружении приближающегося к нашей машине автомобиля сбоку. В отличие от людей, нейросети не обладают периферийным зрением. Наделение компьютерных моделей зрения…

0
Читать далее