Anthropic выявила потребность в усиленных тестах на устойчивость ИИ
Новости Искусственного Интеллекта
Исследователи Anthropic сообщили о первой зафиксированной кибероперации, где искусственный интеллект использовался не как вспомогательный инструмент, а как автоматизированный управляющий элемент хакерской кампании. По данным компании, атаки были связаны с китайскими государственными структурами и нацелены на технологический, финансовый и государственный секторы.
Доклад вызвал горячую дискуссию: одни увидели в нём предупреждение о нарастающей угрозе, другие — попытку усилить давление на открытые ИИ-модели. Специалисты подчёркивают: тревогу вызывает не сам факт использования ИИ, а достигнутый уровень автономности и способность обходить защиту через манипуляции контекстом.
Эксперты отмечают, что автоматизация атак неизбежно усилит злоумышленников, но одновременно откроет путь к развитию новых защитных ИИ-агентов — гонка вооружений уже идёт, и обе стороны учатся быстрее, чем когда-либо.
Эксперт Президентской академии в Санкт-Петербурге: «Необходимо повышать финансовую грамотность населения»
Злоумышленники стали менять тактику проведения кибератак на финансовые организации и для обмана граждан.
Ранее они применяли DDoS-атаки, рассылали вредоносные программные обеспечения и фишинговые письма.
Сейчас чтобы похитить у людей деньги, мошенники стали использовать
персонифицированные сценарии обмана, которые придают максимальную реалистичность их действиям.
Для этого злоумышленники используют сведения о человеке из открытых источников, в том числе, социальных сетей, а также компилируют данные из разных баз, доступ к которым получают во время успешных компьютерных атак на различные компании. Эта тактика очень опасна, так как в результате у граждан значительно повышается доверие к злоумышленникам во время телефонного разговора или переписки.
Банк России отмечает, что взлом личных кабинетов пользователей в интернет-магазинах и сервисах доставки товаров, в социальных сетях, на маркетплейсах и других ресурсах - еще один тренд хакеров. Им удается это сделать, в том числе, путем подбора паролей.
Регулятор рекомендует гражданам не размещать личную и финансовую информацию в социальных сетях и других открытых ресурсах, не использовать одинаковые пароли от личных кабинетов всевозможных сервисов. Пароли необходимо часто обновлять и по возможности установить двухфакторный способ аутентификации, - подтверждение входа кодом из СМС-сообщения.
"Повышение финансовой грамотности населения играет решающую роль в обеспечении финансового благополучия отдельных лиц, семей и всей экономики, - считает эксперт Президентской академии в Санкт-Петербурге Светлана Филистеева. - Именно поэтому на уровне государства уделяется приоритетное внимание повышению финансовой грамотности населения".
