Критика и предложения по статье IDs for AI Systems.
Уже в ближайшем будущем сеть будет наполнена ИИ агентами Читать полностью »
Рубрика «безопасность» - 10
Жесткий контроль над ИИ агентами как инструмент для массовой слежки
2025-04-24 в 14:54, admin, рубрики: безопасность, будущее, ИИ, ии-агенты, ии-ассистент, общество, политика, регулирование ииТехнологии на службе мира: Почему когнитариат должен объединиться против милитаризации
2025-04-22 в 14:39, admin, рубрики: акция, безопасность, война, защита, пацифизм, призыв к действию, прогрессЧтение книги The Technological Republic за авторством генерального директора компании Palantir Technologies Алекса Карпа сподвигло меня на следующие размышления.
Почему запрет на переключение вкладок не спасает онлайн-тесты от списывания
2025-04-21 в 7:15, admin, рубрики: javascript, безопасность, браузеры, нейросети, собеседования, тестирование студентовВведение
Онлайн-тестирование стало важной частью современного образования и процесса найма сотрудников. Многие платформы и компании пытаются бороться с мошенничеством, внедряя технические ограничения — например, запрет на переключение вкладок в браузере. Но насколько это эффективно на практике? И что делать, если такие меры вызывают больше проблем, чем решают?
Зачем вообще запрещать переключение вкладок?
Идея проста: если пользователь сдает тест, он не должен отвлекаться на другие сайты и искать ответы. Поэтому разработчики:
-
отслеживают потерю фокуса окна (blur, visibilitychange),
Не попадись на крючок: 7 признаков фишингового письма или сообщения
2025-04-20 в 13:32, admin, рубрики: безопасность, фишингКаждый из нас хоть раз получал странное письмо якобы от банка, соцсети или госслужбы с просьбой срочно перейти по ссылке, ввести данные или открыть вложение. Это фишинг – старый как мир, но все еще до обидного эффективный метод мошенничества. Он не ломает системы напрямую, он "ломает" нас – пользователей, играя на невнимательности, доверии или страхе. Последствия могут быть плачевными: от кражи паролей и денег до компрометации рабочих аккаунтов.
Русский инженер против снега на крыше
2025-04-18 в 8:55, admin, рубрики: Raspberry Pi, безопасность, гидроизоляция, датчики давления, испытания конструкции, мост уитстона, проектирование, умная крыша, эксплуатация здания, электроникаСнег.
Для детей это снеговик и снежки с родителями, для подростков — возможность позаигрывать с понравившейся девушкой, но для меня, инженера, который 15 лет занимается крышами, снег — это одна большая головная боль.
Главная проблема – снег нужно убирать и убирать вовремя, а если этого не сделать, то будет как-то так:
Во Всемирный день авиации и космонавтики не мешает напомнить и о других событиях, напрямую связанных с весьма серьезными опасностями, поджидающими людей в космосе, и о которых сейчас почти ничего не пишут таблоиды.
Как я начал бояться вайб-кодинга, или почему мы доверяем ИИ больше, чем коллегам
2025-04-11 в 22:09, admin, рубрики: безопасность, вайб-кодинг, вайбкодинг, ИИ, кодогенерацияЕщё год назад я смеялся над мемами про Copilot, который "пишет весь код за тебя". Теперь - я уже не смеюсь. Потому что вижу, как всё чаще код влетает в main почти без участия человека. Его не пишут - его принимают. Почти как оракульское послание.
Это не всегда плохо. Но иногда - страшно.
Началось с удобства
Я не анти-ИИ и не неолуддит - я сам пользуюсь им в работе. Более того - я первый, кто радовался, когда Copilot или Claude помогали дописать скучные if-else, док-блоки и избавляли от гуглинга array_unique третий раз за неделю. Это круто. Это ускоряет. Это экономит силы. Но со временем, что-то начало меняться.
Сделайте свою крышу умной, чтобы ее не снесло
2025-04-04 в 8:15, admin, рубрики: безопасность, датчик, кровля, крыша, монтаж, нагрузка, снег, снеговаяСколько снега будет на крыше зимой? Этот вопрос важен для владельцев зданий, проектировщиков и строителей. Если снег не убирать, он может повредить крышу или привести к обрушению. Прошлой зимой в России произошло 26 таких случаев, а с частными домами аварий еще больше. Решение простое: убирать снег с крыши. Но как понять, когда это делать? Привычные методы часто неэффективны и зависят от людей. Мы в ТЕХНОНИКОЛЬ разработали новый способ.
Исследование уязвимостей LLM-агентов: опыт Red Teaming
2025-03-30 в 15:17, admin, рубрики: gpt, llm, llm-attack, llm-агент, безопасностьПривет!
Сначала об определениях. LLM Red teaming — практика тестирования больших языковых моделей (например, GPT), направленная на выявление уязвимостей, нежелательного поведения и способов их взлома (jailbreak). Суть в том, чтобы через специальные подсказки или методы обойти защитные механизмы и ограничения LLM.
Как я «взломал» популярное приложение и добыл корпоративный токен OpenAI
2025-03-26 в 6:51, admin, рубрики: AI, OpenAI, безопасность, взлом, искусственный интеллект, мобильное приложение, нейросеть, подсчет калорийБлагодаря искусственному интеллекту, все больше энтузиастов запускают свои продукты без команды профессиональных разработчиков.
Так, например, совсем недавно вышла новость о 18-летних подростках, которые запустили приложение для подсчета калорий и заработали на нем миллионы долларов. Круто, правда?
Но давайте взглянем на ситуацию с другой стороны: какое качество у таких "быстрых" проектов и какие уязвимости они могут нести? Здесь я хочу разобрать реальный кейс - уязвимость в одном очень популярном ИИ-приложении, которая открыла мне доступ к корпоративному токену OpenAI.