Открыта программа поиска багов в ChatGPT

OpenAI запустила программу по поиску уязвимостей в своих AI-сервисах, включая ChatGPT, призывая пользователей находить и раскрывать проблемы в работе системы. Вознаграждения за обнаруженные уязвимости варьируются от 200 долларов за «незначительные нарушения» до 20 000 долларов за «исключительные открытия», а отчёты можно отправлять через платформу по кибербезопасности Bugcrowd. Следует отметить, что программа не предусматривает вознаграждения за социальный формат взлома ChatGPT или принуждение его генерировать вредоносный код или текст. «Проблемы, связанные с содержанием модельных подсказок и ответов строго не входят в рамки программы по поиску уязвимостей и не будут вознаграждаться», — говорится на странице Bugcrowd OpenAI.

Взлом выдачи ChatGPT обычно включает в себя ввод сложных сценариев в систему, которые позволяют пользователю обойти собственные системы безопасности искусственного интеллекта. Руководство OpenAI говорит, что такие проблемы безопасности модели плохо подходят для программы по поиску уязвимостей, так как они не являются отдельными, дискретными ошибками, которые можно непосредственно исправить. Компания отмечает, что решение этих проблем часто требует значительных исследований и более широкого подхода, и отчёты о таких проблемах следует отправлять через страницу обратной связи с моделью компании. Но хорошо, что производитель решил заниматься этим вопросом, потому что недостатков у чат-бота предостаточно.
Adobe представила ИИ, который обрабатывает 10000 фото в один…
Компания Adobe сегодня запустила новые инструменты генеративного ИИ, которые автоматизируют трудоёмкие за…
OpenAI выпустила инструмент для ИИ-агентов…
Будущее искусственного интеллекта определённо связано с ИИ-агентами, и OpenAI делает шаг в этом направлен…
Apple TV выпустили на Android…
Начиная с сегодняшнего дня приложение Apple TV для Android больше не ограничивается только телевизорами с…
Microsoft внедрила ИИ для борьбы с обманом в интернете…
Microsoft начала внедрять новый блокировщик вредоносного программного обеспечения в браузер Edge — данный…
Elgato представила Wave Link на базе ИИ…
Сегодня компания Elgato выпустила новую версию своего программного обеспечения для управления аудиопотока…
DeepSeek прекратил регистрацию новых пользователей…
После стремительного взлёта на вершину рейтингов App Store в США, китайский чат-бот DeepSeek начал ограни…
Google Maps получила важную функцию для навигации…
Сервис Google Maps стал первым приложением, которое внедрило новую функцию Live Updates в Android 16 — те…
ИИ-функции Google Gemini теперь бесплатны…
Ранее для доступа ко всем ИИ-функциям Google в Gmail, Docs, Sheets, Meet и других приложениях Workspace т…
МегаОбзор
ЭЛ № ФС 77 - 68301. Выходные данные СМИ МегаОбзор
2006-2025
© MegaObzor