What are the opening hours?

Monday 10:00 - 19:00 Tuesday 10:00 - 19:00 Wednesday 10:00 - 19:00 Thursday 10:00 - 19:00 Friday 10:00 - 19:00

НПО Эшелон, Улица Электрозаводская, д. 24, Moscow (2026)

18/07/2024

Уязвимости SAP AI раскрывают облачные среды клиентов и частные артефакты искусственного интеллекта

Исследователи кибербезопасности из компании Wiz обнаружили недостатки в облачной платформе SAP AI Core для создания и развертывания рабочих процессов прогнозного искусственного интеллекта (ИИ). Эти уязвимости могут позволить злоумышленнику получить токены доступа и данных клиентов.

В отчете описаны пять уязвимостей, которые получили общее название SAP.

«Обнаруженные нами уязвимости могли позволить злоумышленникам получить доступ к данным клиентов и заразить внутренние артефакты, распространившись на сопутствующие службы и среду других клиентов», — говорится в отчете Wiz.

Недостатки были устранены 15 мая 2024 года после ответственного раскрытия информации.

Уязвимости угрожают пользователям облачных сред, таких как Amazon Web Services (AWS), Microsoft Azure и SAP HANA Cloud.

Их также можно эксплуатировать для изменения образов Docker во внутреннем реестре контейнеров SAP, образов Docker SAP в реестре контейнеров Google и артефактов, размещенных на внутреннем сервере SAP Artifactory. Все это в конечном итоге может привести к атаке на цепочку поставок на службы SAP AI Core.

Кроме того, этот доступ можно использовать для получения привилегий администратора кластера в Kubernetes SAP AI Core.

«Используя этот уровень доступа, злоумышленник может напрямую получить доступ к модулям других клиентов и украсть конфиденциальные данные, такие как модели, наборы данных и код, — объясняют исследователи. – Этот доступ также позволяет злоумышленникам вмешиваться в работу модулей клиента, искажать данные ИИ и манипулировать выводами моделей».

Проблемы возникают из-за того, что платформа позволяет запускать вредоносные модели ИИ и процедуры обучения без адекватной изоляции и механизмов песочницы.

В результате злоумышленник может создать на SAP AI Core обычное приложение искусственного интеллекта, обойти сетевые ограничения и прощупать внутреннюю сеть Kubernetes Pod, чтобы получить токены AWS и доступ к клиентскому коду и обучающим базам данных, используя неверные конфигурации в ресурсах AWS Elastic File System (EFS).

«Обучение ИИ требует запуска произвольного кода по определению; поэтому должны быть установлены соответствующие ограждения, гарантирующие, что ненадежный код должным образом отделен от внутренних активов и других арендаторов», — пишет Wiz.

Источник: https://t.me/EchelonEyes/2968

#ИИ

18/07/2024

Gartner: 53% клиентов уйдут к конкуренту, лишь бы избежать общения с ботами из службы поддержки

Идея общения с искусственным интеллектом не ради развлечения, а по необходимости отталкивает большинство людей. Об этом свидетельствует недавний опрос консалтинговой компании Gartner.

Согласно исследованию, 64% клиентов предпочли бы, чтобы компании не использовали искусственный интеллект (ИИ) в обслуживании клиентов. Более того, 53% клиентов рассмотрят возможность перехода к конкуренту, если они обнаружат компания собиралась использовать ИИ для в службах поддержки.

Опрос Gartner был проведен среди 5728 клиентов.

«Шестьдесят процентов руководителей отдела обслуживания клиентов и поддержки вынуждены использовать искусственный интеллект в своих функциях, — комментирует статистику старший директор по исследованиям практики обслуживания и поддержки клиентов Gartner Кит Макинтош. – Но они не могут игнорировать опасения по поводу использования ИИ, особенно когда это может означать потерю клиентов».

Больше всего потребителей беспокоит то, что из-за внедрения ИИ в сферу обслуживания, им станет сложнее связаться с человеком, после чего ИИ вытеснит рабочие места и при этом будет давать неправильные ответы.

Макинтош считает, что клиентам важно дать понять, что в случае, если чат-бот не сможет им помочь, их обязательно переключат на помощника-человека.

Источник: https://t.me/EchelonEyes/2967

#ИИ #опрос

18/07/2024

В Китае тестируют ИИ-модели на соответствие социалистическим ценностям

Управление по вопросам киберпространства Китая проверяет ИИ-модели на соответствие «ключевым социалистическим ценностям», пишет Financial Times со ссылкой на осведомленные источники. Регулятор обязал такие компании, как Byte Dance, Alibaba, Moonshot 01[.]AI и другие, провести обязательное социалистическое тестирования для своих чат-ботов, которое будет включать вопросы с политикой и идеологией.

Проверки проводятся в рамках правил для чат-ботов, ранее представленных Управлением по вопросам кибербпространства. В правилах говорилось, что Китай поддерживает широкое внедрение инновации, но создаваемый генеративным ИИ контент не должен противоречить общественной морали и «содержать призывы к подрыву государственной власти, свержению социалистической системы, подстрекательству к разделению страны, подрыву национального единства».

Financial Times даже приводит примеры некоторых вопросов, на которые должны быть даны «правильные» ответы – например, касательно событий на площади Тяньаньмэнь 4 июня 1989 года, похож ли китайский лидер на Винни Пуха, хороший ли руководитель страны Си Цзиньпин, а также соблюдаются ли права человека в Китае.

Как сообщает Financial Times, не всем языковым моделям с первого раза удалось успешно пройти тестирование. В случае провала инженеры должны будут дообучить модель. Сообщается, что лучше всего справился с ответами чат-бот от ByteDance, у которого «уровень соответствия нормам безопасности» достиг 66,4%. А вот «двоечником» оказался GPT-4o от OpenAI — 7,1%.

Источник: https://t.me/EchelonEyes/2966

#ИИ

18/07/2024

ЦАХАЛ отразил 3 миллиарда кибератак после начала войны с ХАМАС

Сеть облачных вычислений Армии обороны Израиля подверглась более чем трем миллиардам кибератак с момента начала войны между Израилем и ХАМАСом, пишут газеты Израиля со ссылкой на командующую Центром вычислительных и информационных систем (Мамрам) ЦАХАЛа. По словам полковника Рахель Дембински, все атаки были перехвачены и не причинили ущерба.

Полковник добавила, что целью атак были операционные облачные вычисления, используемые многими системами, обеспечивающими войскам обмен информацией во время боя.

Хотя Дембински не уточнила, какие именно атаки были совершены и какую опасность они представляли, она подчеркнула, что ни одна система ни на каком этапе не была скомпрометирована.

Мамрам отвечает за инфраструктуру и защиту удаленных военных серверов.

Дембински также рассказала, что с началом военных действий компьютерные системы Мамрам оказались перегружены. Это было вызвано большим количество людей, использующих их.

«Мы достигли ситуации, когда мы распределяли вычислительные ресурсы на 120 процентов мощности. Мы поняли, что если не решить проблему перегрузок и замедлений, ситуация нас захлестнет. Поэтому в первые недели войны мы использовали два подхода: регулирование вычислительных ресурсов и ресурсов хранения, а также добавление дополнительных серверов в дата-центры. Этого оказалось недостаточно, поэтому мы создали дополнительный дата-центр для обеспечения вычислительной поддержки оперативных возможностей», - рассказывает полковник.

Источник: https://t.me/EchelonEyes/2965

#кибератаки

16/07/2024

Япония покончила с дискетами, а ВМС Германии еще нет: 8-дюймовые ископаемые в ходу на немецких противолодочных фрегатах

ВМС Германии ищут новую систему хранения данных для замены устаревших 8-дюймовых дискет, от которых в настоящий момент зависит эксплуатация фрегатов класса F123 «Бранденбург». Согласно официальному тендерному документу, идеальным решением была бы замена гибких дисков на основе системы эмуляции хранилища.

Немецкие фрегаты класса F123 «Бранденбург» были введены в строй в середине 1990-х годов, поэтому дискеты рассматривались как удобный съемный носитель информации. Они используются для сбора данных фрегата и, таким образом, «имеют центральное значение для управления основными функциями корабля, такими как двигательная установка и выработка энергии», согласно отчету источника.

F123 специализируются на поиске подводных лодок. Однако в Германии решено модернизировать системы вооружения и системы управления вооружением этих кораблей. Шведская компания Saab является генеральным подрядчиком модернизации F123.

Источник: https://t.me/EchelonEyes/2958

#дискеты

16/07/2024

В России разработают замену Jira и Trello

Холдинг «Т1» готов инвестировать 2,36 млрд рублей в разработку набора инструментов управления процессом разработки ПО, которые станут частью платформы «Сфера». Эти инструменты заменят популярные иностранные сервисы Jira, Confluence, Gitlab и многие другие, сообщает Cnews со ссылкой на дорожную карту «Новое общесистемное ПО», разработанную компаниями VK, «1С», «Лаборатория Касперского» и «Ростелеком» и утвержденную правительственной комиссией по цифровому развитию.

Подразделение «Т1» – «Т1-Диджитал» - должно завершить разработку к 2025 году.

Платформа «Сфера» будет включать в себя инструменты автоматизации разработки и поставки ПО, инструменты управления релизами, инструменты управления процессами эксплуатации и инструменты управления тестированием.

Решение будет включать следующие модули:

- генерация и обезличивание данных;
- дистрибутивы и библиотеки;
- документы;
- доступы;
- запросы на обслуживание;
- инциденты;
- каталог сервисов;
- код;
- контрольные точки;
- мобильная ферма;
- оркестрация;
- проверка лицензий;
- релизы;
- согласования;
- функциональное тестирование;
- нагрузочное тестирование;
- задачи;
- знания;
- портал разработки;
- мониторинг производства;
- ИТ-активы;
- управления конфигурациями и др.

Таким образом, платформа позволяет сопровождать весь процесс создания программного продукта: от возникновения идеи до внедрения готового решения и его эксплуатации. Появление такого продукта позволит снизить зависимость российских разработчиков от иностранных ИТ-инструментов.

Источник: https://t.me/EchelonEyes/2957

#импортозамещение

16/07/2024

Хактивисты украли 1 Тб данных у Disney и требуют защитить права мультипликаторов

Группы хактивистов Nullbulge заявила, что похитила данные тысяч внутренних каналов обмена сообщениями Disney, которые включали информацию о невыпущенных проектах, компьютерные коды необработанных изображений и некоторые логины.

Хакеры заявили, что уже слили данные объемом 1,2 Тб из приложения Slack, которым пользуются сотрудники Disney. В электронном письме CNN в понедельник группа заявила, что получила доступ через «человека с доступом к Slack, у которого были файлы cookie». Хактивисты также подчеркнули, что базируются за пределами России, а цель взлома – защитить права художников и заставить Disney выплатить компенсацию за их работу, особенно в эпоху искусственного интеллекта.

«Нашей целью была компания Disney из-за ее подхода к контрактам с артистами, ее подхода к искусственному интеллекту и довольно вопиющего пренебрежения к потребителю», — сообщила хакерская группа каналу CNN по электронной почте.

В ответ Disney заявила, что «расследует этот вопрос». Корпорация Disney охватывает широкий спектр подразделений и компаний: от ESPN до Hulu, от Disney+ до ABC News.

Последние несколько недель Nullbulge в соцсетях намекала, что вот-вот сольет гигантский архив. Например, в июне группа опубликовала на X данные о посетителях, бронированиях и доходах парижского Диснейленда.

Искусственный интеллект был основным камнем преткновения в переговорах во время забастовок Гильдии киноактеров и Гильдии писателей Америки. Писатели обеспокоены тем, что ИИ-модели могут писать сценарии вместо них, а актеры опасаются, что компьютерные изображения могут полностью их заменить.

Хакеры заявили, что слили данные, потому что переговоры с Disney бесполезны.

«Если бы мы сказали: «Привет, Дисней, у нас есть все ваши резервные данные», они бы немедленно заблокировали и попытались вывести нас из строя. В дуэли лучше стрелять первым», — говорится в электронном письме.

Источник: https://t.me/EchelonEyes/2956

#утечка

16/07/2024

Gemini AI от Google поймана на сканировании PDF-файлов, размещенных на Google-диске, без разрешения — функцию нельзя отключить

Cлужба Google Gemini AI теперь читает частные документы Google-диска без разрешения пользователей, пишет исследователь Кевин Бэнкстер.

Бэнкстер решил проверить, не является ли это сбоем для какого-то одного пользователя и открыл свою налоговую декларацию в Google Docs. Gemini AI без приглашения оказалась тут как тут и резюмировала ее. Выходит, ИИ автоматически читает частные документы, которые пользователи открывают в Google Docs. Вероятно, эта практика распространяется на весь Google-диск. Чтобы отключить эту функцию (которую исследователь самостоятельно не включал!), он полез искать настройки.

Сам ИИ Gemini от Google утверждает, что настройки конфиденциальности, используемые для информирования Gemini, должны быть в открытом доступе, однако Бэнкстер таковых не обнаружил. Это означает, что ИИ либо «галлюцинирует (лжет)», либо какие-то внутренние системы на серверах Google откровенно неисправны. Любая из этих причин его не обрадовала, даже если эти данные якобы не используются для обучения ИИ Gemini.

В конце концов Бэнкстон нашел соответствующий переключатель настроек… только для того, чтобы обнаружить, что сводки Gemini в Gmail, Drive и Docs уже отключены. Кроме того, эти настройки находилось совершенно в другом месте, а не там, где указывал чат-бот Gemini.

Бэнкстон пришел к выводу, что проблема на Google Диске возникает после нажатия кнопки Gemini хотя бы на одном документе. Соответствующий тип документа (в его случае PDF) впоследствии автоматически активирует Google Gemini для всех будущих файлов того же типа, открываемых на Google Диске. Исследователь также предполагает, что это могло быть вызвано тем, что он включил Google Workspace Labs еще в 2023 году, что могло привести к отмене предполагаемых настроек Gemini AI.

Даже если эта проблема касается только пользователей Google Workspace Labs, это довольно серьезный недостаток. Согласие пользователя по-прежнему имеет большое значение, особенно в отношении потенциально конфиденциальной информации.

Источник: https://t.me/EchelonEyes/2955

#ИИ #конфиденциальность

15/07/2024

Утечка токена Python GitHub едва не привела к кошмарной атаке на цепочку поставок

Исследователи JFrog обнаружили утечку токена с администраторским доступом к репозиториям GitHub Python, PyPI и Python Software Foundation, который был обнаружен в общедоступном контейнере Docker, размещенном на Docker Hub.

Токен доступа принадлежал руководителю инфраструктуры Python Software Foundation И Дурбину и был случайно включен в скомпилированный двоичный файл, который был опубликован как часть образа контейнера в Docker Hub.

«Хотя мы сталкиваемся со многими секретами, которые просачиваются таким же образом, этот случай был исключительным, поскольку трудно переоценить потенциальные последствия, если бы он попал в чужие руки — можно было бы якобы внедрить вредоносный код в пакеты PyPI (представьте себе замену всех Python пакеты с вредоносными) и даже к самому языку Python», — говорится в отчете JFrog.

Инцидент показывает, что очистка токенов доступа только из исходного кода, которую некоторые инструменты разработки выполняют автоматически, недостаточна для предотвращения потенциальных нарушений безопасности.

Дурбин написал отчет (https://blog.pypi.org/posts/2024-07-08-incident-report-leaked-admin-personal-access-token/) об инциденте, объясняющий, как произошла утечка.

В начале 2023 года Дурбин работал над cabotage-app — инструментом на базе Docker, разработанным PSF и используемым для развертывания PyPI и связанных с ним сервисов в кластере Kubernetes. Работая над частью сборки кодовой базы, он постоянно сталкивался с ограничениями скорости API, которые GitHub применяет для анонимного доступа.

А затем Дурбин совершил то, что сам называет «актом лени» - локально изменил исходный код, включив в него токен доступа для своей учетной записи, чтобы обойти ограничения скорости по умолчанию и быстрее завершить работу. Это было быстрое решение стало альтернативой настройке локального приложения GitHub для выполнения сборки вместо использования GitHub API.

Хотя Дурбин знал, что добавление токенов личного доступа в исходный код является плохой практикой, изменение коснулось только его локальной копии кодовой базы и никогда не предназначалось для удаленного распространения.

О чем Дурбин не подумал, так это о том, что токен также был включен в файлы .pyc (скомпилированный байт-код Python), созданные как часть процесса сборки, и что эти файлы, хранящиеся в папке pycache, не были настроены на исключение из окончательного варианта. Образ Docker загружен в Docker Hub.

Получив уведомление от JFrog в конце июня, команда безопасности PyPI отозвала токен и проверила все журналы аудита GitHub и активность учетной записи на наличие возможных признаков того, что токен мог быть использован злонамеренно. К счастью, следов злонамеренной деятельности не было обнаружено. А ведь версия приложения cabotage, содержащая токен, была доступна больше года: она была опубликована на Docker Hub 3 марта 2023 года, а удалена 21 июня 2024 года.

«Это отличное напоминание о необходимости устанавливать агрессивные сроки действия токенов API (если они вам вообще нужны), относиться к файлам .pyc как к исходному коду и выполнять сборки на автоматизированных системах только из чистого исходного кода», — делает вывод Дурбин.

Источник: https://t.me/EchelonEyes/2953

#утечка #ИБ #токендоступа

15/07/2024

Правительство утвердило положение, регламентирующее работу государственной единой облачной платформы

С 1 января 2025 года в России будет запущена государственная единая облачная платформа (гособлако). На прошлой неделе председатель Правительства Михаил Мишустин подписал положение, регламентирующее работу гособлака, где пользователи смогут безопасно хранить корпоративные данные.

Платформа станет единым комплексом для размещения и работы информационных систем и ресурсов различных министерств и ведомств, государственных внебюджетных фондов, публично-правовых компаний, а также социально ориентированных некоммерческих организаций. В гособлаке будут использоваться российские программные продукты и оборудование, соответствующие требованиям в области импортозамещения.

В целом работа в гособлаке позволит органам государственной власти и другим организациям госсектора оптимизировать затраты и упростит межведомственное взаимодействие, что в свою очередь повысит эффективность оказания госуслуг.

Работа над системами гособлака ведется с 2019 года. На платформе апробирована работа 100 информационных систем и ресурсов 40 различных министерств и ведомств, среди которых Социальный фонд России, Минздрав, Минтранс, Минстрой, Минприроды, Рослесхоз, Росреестр, Росмолодёжь, ФМБА.

Создание государственной единой облачной платформы идёт в рамках федерального проекта «Цифровое государственное управление».

Источник: https://t.me/EchelonEyes/2952

#гособлако #импортозамещение

15/07/2024

OpenAI работает над секретным ИИ «Strawberry» - шагом к будущему AGI

Компания OpenAI работает над новой технологией для своих моделей искусственного интеллекта. Проект получил кодовое название «Strawberry», сообщает Reuters со ссылкой на человека, знакомого с документацией. Источник сообщает, что новый подход обеспечит ИИ расширенные возможности рассуждения.

Агентству Reuters не удалось установить точную дату документа, в котором подробно описывается план того, как OpenAI намерен использовать Strawberry для проведения исследований. По словам источника, план находится в стадии разработки, однако не уточнил, насколько скоро Strawberry станет общедоступным. Этот же человек заявил, что принцип работы Strawberry держится в секрете даже внутри OpenAI.

В документе описывается проект, в котором используются модели Strawberry, которые могут не просто генерировать ответы на запросы, но и заранее планировать, чтобы автономно перемещаться по интернету. Это OpenAI называет «глубоким исследованием». Согласно интервью более чем с десятком исследователей, это то, что до сих пор было недоступно моделям ИИ.

По данным агентства, Strawberry – это тот самый проект Q* (https://t.me/EchelonEyes/2190), информация о котором утекла в сеть еще в ноябре 2023 года, а сам проект внутри OpenAI назывался прорывом, представляющим угрозу человечеству.

На прошлой неделе во время собрания в OpenAI была продемонстрирована демо-версия нового проекта, который, как утверждается, обладает новыми человеческими навыками мышления. OpenAI надеется, что эта инновация значительно улучшит способности ее моделей ИИ к рассуждению, сказал человек, знакомый с ней, добавив, что Strawberry включает в себя специальный способ обработки модели ИИ после ее предварительного обучения на очень больших наборах данных.

Исследователи полагают, что рассуждение является ключом к достижению ИИ интеллекта человеческого или сверхчеловеческого уровня. Хотя большие языковые модели уже могут анализировать сложные тексты и составлять элегантную прозу гораздо быстрее, чем любой человек, технология часто не справляется с проблемами здравого смысла, решения которых кажутся людям интуитивными.

Исследователи ИИ, опрошенные агентством Reuters, в целом согласны с тем, что навык рассуждения позволит ИИ планировать наперед, отражать то, как функционирует физический мир, и надежно решать сложные многоэтапные проблемы.

Улучшение рассуждений в моделях ИИ рассматривается как ключ к раскрытию способности моделей делать все: от крупных научных открытий до планирования и создания новых программных приложений.

Источник: https://t.me/EchelonEyes/2951

#ИИ

11/07/2024

HippoRAG принимает сигналы мозга, чтобы улучшить способность больших языковых моделей к извлечению данных

Исследователи из Университета штата Огайо и Стэнфордского университета представили новую систему поиска данных HippoRAG, вдохновленную теорией индексации гиппокампа долговременной памяти человека. Хранение и извлечение знаний лежит в основе больших языковых моделей. Хотя в области генерации с расширенным поиском (retrieval-augmented generation, RAG) были достигнуты огромные успехи, некоторые ограничения остаются нерешенными.

HippoRAG позволяет приложениям больших языковых моделей более эффективно интегрировать динамические знания и быстрее и точнее извлекать важную информацию. Исследователи заявляют, что HippoRAG демонстрирует впечатляющую производительность в таких задачах, требующих сборки и рассуждения на больших и сложных графах знаний.

Мозг млекопитающих может хранить огромные объемы знаний и постоянно интегрировать новый опыт, не теряя при этом предыдущий. Эта система долговременной памяти позволяет людям постоянно обновлять знания, которые они используют для рассуждений и принятия решений.

А вот у больших языковых моделей с этим проблемы. Интеграция знаний после предварительного обучения происходит с трудом, поскольку каждый новый документ кодируется отдельно.

Многие вопросы на ответы требуют интеграции знаний из нескольких источников. Для решения таких задач современные системы RAG используют несколько этапов поиска и генерации для объединения разрозненных отрывков. Однако даже идеально выполненной многоэтапной RAG часто оказывается недостаточно для многих сценариев интеграции знаний.

HippoRAG черпает вдохновение из биологических взаимодействий между неокортексом и гиппокампом, которые обеспечивают мощную, контекстно-зависимую и постоянно обновляемую память человеческого мозга.

Согласно научным исследованиям, неокортекс обрабатывает и хранит реальные представления воспоминаний. Гиппокамп содержит набор взаимосвязанных индексов, которые указывают на единицы памяти в неокортексе и сохраняют ассоциации между ними. Эти два компонента работают вместе для достижения «разделения шаблонов», которое гарантирует уникальность представлений различных переживаний, и «завершения шаблона», которое позволяет извлекать полные воспоминания из частичных стимулов.

HippoRAG имитирует эту модель памяти, используя большие языковые модели для преобразования документов в граф знаний, который действует как искусственный индекс гиппокампа. HippoRAG работает в два этапа: автономное индексирование для хранения информации и онлайн-поиск для интеграции знаний в запросы пользователей.

Исследователи оценили поисковые возможности HippoRAG на двух сложных тестах многоступенчатого ответа на вопросы и пришли к выводу, что HippoRAG превосходит все другие методы.

Основным преимуществом HippoRAG является его способность выполнять многошаговый поиск за один шаг. Его онлайн-процесс поиска также в 10–30 раз дешевле и в 6–13 раз быстрее, чем современные итеративные методы поиска, такие как IRCoT, при этом равен им по производительности.

Исследователи полагают, что если добавить к HippoRAG графовые нейронные сети (GNN), то еще больше усилит способность системы выстраивать сложные рассуждения с использованием неструктурированной информации.

Источник: https://t.me/EchelonEyes/2946

#ИИ

НПО Эшелон

18/07/2024

18/07/2024

18/07/2024

18/07/2024

16/07/2024

16/07/2024

16/07/2024

16/07/2024

15/07/2024

15/07/2024

15/07/2024

11/07/2024

Address

Opening Hours

Telephone

Website

Alerts

Contact The Business

Shortcuts

Share

Category

Monday	10:00 - 19:00
Tuesday	10:00 - 19:00
Wednesday	10:00 - 19:00
Thursday	10:00 - 19:00
Friday	10:00 - 19:00