Рубрика «OpenAI» - 8

в 14:00, , рубрики: guardrails, OpenAI, ИИ, ии-агенты, ии-ассистент

Всем привет!

В этой статье разберёмся с OpenAI Guardrails — одним из самых эффективных инструментов для обеспечения безопасности ИИ-систем. Это продолжение цикла о защите и контроле ИИ-агентов, в первой части мы рассмотрели инструмент модерации запросов.

Guardrails предоставляет намного более мощные возможности для защиты, позволяя создавать многоуровневую систему валидации входных и выходных данных.

Если вам интересны детали, рекомендуем ознакомиться с дополнительными материалами из нашего Telegram-канала Читать полностью »

в 14:41, , рубрики: AI, claude, gemini, Google, gpt, grok, OpenAI, ИИ, нейросети
Изображение принадлежит автору (сгенерировано с помощью Google Gemini)

Изображение принадлежит автору (сгенерировано с помощью Google Gemini)

Я нисколько не сомневаюсь, что системы ИИ (от ассистентов по кодированию до Читать полностью »

в 4:29, , рубрики: adaptive reasoning, GPT-5.1, llm, OpenAI, безопасность ии, ИИ

Все мы сидим в ожидании релиза GPT-5, но OpenAI вместо громкой презентации выкатывает... "дополнение к системной карте" (System Card Addendum) для GPT-5.1. Звучит скучно, как юридический документ или обновление пользовательского соглашения, которое никто не читает. Но я все-таки полез смотреть, что там внутри. И, как оказалось, зря многие это пропустили.

Там, по сути, нам не просто рассказали о фичах, а анонсировали архитектуру двух новых моделей - GPT-5.1 Instant и GPT-5.1 Thinking. И что еще интереснее - детально расписали новые "предохранители", которые многое говорят о том, куда движется индустрия.

"Instant" и "Thinking": что это за звери?

Читать полностью »

в 9:57, , рубрики: attention, circuits, mechanistic-interpretability, OpenAI, sparse-transformer, архитектура-моделей, интерпретируемость, разреженные-модели, цепочки-вычислений

Команда AI for Devs подготовила перевод исследования OpenAI о том, как обучение разреженных моделей может сделать ИИ более прозрачным. Авторы показывают: если заставить модель использовать меньше связей, внутри неё появляются понятные цепочки вычислений, которые можно изучать и проверять. Это может стать шагом к созданию мощных, но интерпретируемых систем.

Читать полностью »

в 15:16, , рубрики: Anthropic, chatgpt, claude, gemini, llm, OpenAI, большие языковые модели, искусственный интеллект, машинное обучение, нейросети

За последний месяц я детально отслеживал каждую статью об искусственном интеллекте в ведущих западных tech-изданиях. 200 статей из TechCrunch, VentureBeat и MIT Technology Review за 26 дней — в среднем почти 8 новостей об ИИ каждый день. Цель эксперимента была проста: понять, совпадает ли то, о чём громче всего кричат медиа, с реальными возможностями ИИ-моделей.

Спойлер: не совпадает. И разрыв между медийным шумом и реальностью оказался весьма значительным.

Методология исследования

Я мониторил три ключевых источника tech-новостей:

в 11:01, , рубрики: jailbreak, llm, OpenAI, python, RedCodeAgent, redteaming, безопасность, ИИ, исследование, кодовые агенты

Команда AI for Devs подготовила перевод статьи о RedCodeAgent — первой полностью автоматизированной системе red-teaming для проверки безопасности кодовых агентов. Исследователи из Чикаго, Оксфорда, Беркли и Microsoft Research показали: даже самые продвинутые LLM-агенты могут генерировать и выполнять уязвимый код. RedCodeAgent не просто тестирует ответы — он атакует, анализирует поведение и находит уязвимости, которые пропускают все остальные методы.

Читать полностью »

в 7:14, , рубрики: AI, chatgpt, claude, gemini, Google, grok, OpenAI, ИИ, нейросети
Этика — это не просто настройка, это навык

Этика — это не просто настройка, это навык

На одном из недавних тренингов кто-то поднял руку и спросил: «Может ли ИИ быть этичным, если люди такими не являются?»

Читать полностью »

в 16:03, , рубрики: chat gpt, codex, codex agent, codex ai, codex-1, OpenAI, ограничения

Эта статья - личное мнение автора. Про «вайбкодинг», лимиты и куда теперь идти разработчикам.

Вайбкодинг становится менее доступным: OpenAI закручивает гайки - 1

Читать полностью »

в 10:59, , рубрики: AI coding, chatgpt, codex, devin, next.js, OpenAI, vibecoding, вайбкодинг, кодинг ассистенты, кодинг-агенты

Всем привет! Недавно я делился своим обзором на Devin, в котором рассказал как потратил 500 долларов на вайбкодинг AI‑редактора и остался не особо доволен – он хоть и справился, но было дорого и долго. Продолжаю поиск своего идеального кодинг‑агента и сегодня разбираюсь в Codex от OpenAI.

Меня зовут Илья Тимонин, я основатель сервиса для генерации изображений ArtGeneration.me, нейро‑евангелист и техноблогер, а по совместительству человек, который умеет читать код ровно настолько, чтобы не бояться запустить npm run devЧитать полностью »

в 10:58, , рубрики: AI, chatgpt, claude, gemini, grok, OpenAI, ИИ, нейросети, свет
1...789...2030...32
Главная   |  Архив новостей  |   Android  |   Google  |   Apple  |   Microsoft  |   Информационная безопасность  |   Веб – разработка
Публикации RSS  |  Комментарии RSS
https://ajax.googleapis.com/ajax/libs/jquery/3.4.1/jquery.min.js