audience statistics эйай ньюз

Since the beginning of the war, more than 2000 civilians have been killed by Russian missiles, according to official data. Help us protect Ukrainians from missiles - provide max military assisstance to Ukraine #Ukraine. #StandWithUkraine

Протестил Kling Motion Brush 50 минут ожидания и о-па! Марик превращается в другого парня. Лица, конечно, знатно корёжатся. Но траектория с большего правильная получилась, кроме ног парня слева. Ради справедливости, я пробовал оживить это фото в Gen-3, и он вообще отказался что-либо делать, просто слегка зазумил фотку. Так что тут победа за Kling! @ai_newz

Motion brush в Kling 1.5 Я что-то слышал краем уха про то, что у Kling вышла версия 1.5, и вроде бы она даже немного получше, и про то, что у них появился motion brush. Но я не предал этому особого значения, т.к. такая же штука была у Runway, а качество, ну, не то чтобы прямо сильно выросло. Но. Гляньте на эти тесты от твиттерских. Работает неожиданно хорошо, и что самое классное — есть возможность указать траекторию движения, да и сегментация кадра работает неплохо. Поэтому решил, что всё-таки это стоит поста. По обновлению: - Разрешение 1080p для pro юзеров - Увеличение динамики движения в кадре - Motion Brush с траекторией движения для 6! элементов сразу - Увеличили скорости генераций, сделали возможность генерить несколько видео параллельно - тут спорно, у меня 2 видоса уже генерятся 30 минут. Хз, где та скорость. - Увеличили макс. длину клипа для img2video до 10 секунд и добавили end frame в стандартной подписке (тоже платная) Ну что, теперь Kling — король арены видеогенерации? Подробнее и сравнения @ai_newz

Стрим про карьеру и собеседования через 2 часа, 17:30-18:30 CET (18:30-19:30 мск). С самыми упорными, возможно, задержимся еще на полчаса, вопросов интересных поступило немало. Ссылка на стрим: Streamyard В начале разогрева ради – хиханьки, если не опоздаете, узнаете, кто ел в одной столовке с Яном ЛеКуном, кто сегодня спал днём, а кто работал ночью.

Вот и результаты Strawberry 🍓 на арену подъехали. И конечно же это новый дилер! Похоже, o1 открывает свой новый тир, результаты (в среднем) на голову выше, чем у предшественников, улычшился перформанс даже на обычных не наукоёмких запрсах. А в хард-промптах и кодинге все остальные даже не близко (4o может немного). Челам с подпиской повезло, им еще и лимиты недавно повысили. А вот стоит ли переплачивать в 30 раз (тк o1 тратит в ~6 раз больше токенов на запрос чем 4o) за API для обычного пользователя – пока непонятно. А как вы планируете использовать новую модель на полную мощь? @ai_newz

Стартап Fluently (YC W24) ищет Senior ML Engineer Fluently - AI спикинг коуч, который слушает ваши онлайн колы и помогает прокачивать английский. Зимой ребята прошли Y Combinator, а также закрыли раунд на $2.5M. Стартап ищет ML инженера, который будет 6-ым членом команды, чтобы строить сервисы c использованием LLM: [Agentic] RAG, LLM/Embeddings Fine-Tuning, Structured Outputs, Custom Llama Serving. Нужно разбираться в последних трендах (что мы и делаем в этом канале). Вилка: от $5k до $10k Опцион: 0.2-1% Формат: ремоут (можно податься на h1-b) 👉🏻 Больше подробностей в посте Юры, фаундера Юру я знаю, лично – виделся с ним, когда был в Сан-Франциско в Апреле. Так что его вакансию могу смело вам рекомендовать. Еще за успешный реферал можно получить последний айфон. #промо

Снапчат троллит Эпл. Вчера прошла ежегодная презентация Снапчата. Заанонсили пару прикольных штук. Приложение со смешными масочками решило с двух ног залететь в AR/VR и AI. Казалось бы, ничего не предвещало... Показали AR-очки с прозрачными линзами! Это уже 5-е поколение Spectacles, хотя раньше о них никто особо не слышал. Очки обещают утереть нос Эпл Вижену, как видно на видео выше. Функционал пока непонятен, но анонс многообещающий. Пишут, что заряда хватит на 45 минут, и пока вся эта история выглядит как оверхайп. Девайс стоит 99 долларов в месяц с обязательной оплатой на 12 месяцев. Пока доступен только ограниченному кругу разработчиков, кому повезло попасть в developer-программу. Возможно, потом станет дешевле, если очечки выйдут на массовый рынок. Ещё представили фильтр, который очень точно воспроизводит лицо на сгенерированной картинке (что-то вроде IP-Adapter на стероидах). Подробностей пока нет. И последняя горячая новинка — text и img 2 video foundation модель. Новый конкурент Sora (да, опять хах), но пока почти нет видео для сравнения. @ai_newz

Сегодня хочу поделиться мыслями об опенсорсе в AI/ML. Как человек, который сам тренирует большие модели, могу сказать - опенсорс это очень круто! Радует, что крупные компании это тоже понимают. Открытые решения реально двигают всю сферу вперед, позволяя даже небольшим командам использовать SOTA инструменты и строить на них свои продукты. Например, та же Meta с релизом LLama3.1 и предыдущими версиями серьезно подтолкнула прогресс в области LLM. Ну, и бигтехи в России тоже контрибьютят в опенсорс. Наткнулся на исследование ИТМО, где они посмотрели, кто больше всего выкладывает в открытый доступ штук по AI/ML. В тройке лидеров оказались Яндекс, Сбер и Т-Банк. Вот мой личный топ их репозиториев: • Яндекс: - catboost - мощная библиотека для градиентного бустинга - YaFSDP (я писал о ней тут) -  библиотека для ускорения распределенного обучения больших моделей. • Сбер: - Kandinsky-3 - крупная text2image модель на 3B параметров - ru-gpts - одни из первых LLM на русском языке • Т-Банк: - T-lite – русскоязычная специализированная LLM на 8B параметров - Rebased - (писал о ней тут) - улучшенная имплементация линейного трансформера В общем, топим за опенсорс. И не стесняйтесь контрибьютить сами, если есть что предложить - кроме всего прочего, это еще и хорошо выглядит в CV. @ai_newz

Стрим про карьеру, собеседования и бигтех Заметил, что у вас есть большой запрос на эту тему. Поэтому мы тут организовались с ребатами и будем проводить большой стрим, где поговорим про карьеру и собеседования в FAANG. Choose your fighter. Бигтех-банда для стрима: - Татьяна Шаврина (LI) – Research Scientist Manager в лондонской Мете в команде LLama-4, авторка канала @rybolos_channel (пост-приветствие). Недавно устроилась, может рассказать про собесы и что именно спрашивают на менеджера; - Сергей Иванов (LI) – Senior Applied Scientist в парижском Amazon, соавтор канала @graphML. Провел 100+ собесов в Амазон, может рассказать про хардкорные поведенческие вопросы; - Борис Цейтлин (LI) – Staff MLE в берлинском eBay, автор канала @boris_again (пост-приветствие). Недавно отмучился с собесами; - Юрий Кашницкий (LI) – Staff GenAI Solutions Architect в амстердамском Google Cloud, автор канала @new_yorko_times (пост-приветствие). Юра будет скоморошить (то есть модерировать) встречу; - Артем Санакоев (LI) – Staff Research Scientist в цюрихской Мете, GenAI, автор @ai_newz (еще раз пост-приветствие). А вот тут я писал про то, как собеседую на разные синьорные позиции в Мету. --- Вопросы можно задавать заранее тут в комментах, либо во время стрима. Можно адресовать конкретно кому-то из спикеров, например, «Вопрос Борису: доколе?» Время: 20 сентября, Пятница, 17:30-18:30 CET. Streamyard – ссылка для просмотра (там же по ссылке можно добавить в календарь). Записи не будет, все вживую. Мест – максимум 1000 😀 #interviews @ai_newz

Если вам когда-либо было интересно, как получить мегакластер GPU, то вот вам подробный гайд от Ларри Эллисона, фаундера того самого Оракла. Челу 80, кстати, похоже, он всё-таки нашёл эликсир вечной молодости. Ну так вот, записываем: 1) Приходим на ужин к Дженсену Хуангу. 2) Вместе с Маском умоляем Кожанку взять ваши миллиарды. 3) Поздравляю, если вам повезёт, то партию свеженьких GPU не задержат. Теперь повторяем😂 Кроме шуток, Oracle – одна из немногих компаний, которая смогла заполучить контракт на более чем 100.000 видеокарт NVIDIA Blackwell (это GB200, например). Они уже строят огромный кластер, который заработает в первой половине 2025. А сбоку еще планируют пристроить 3 маленьких атомных реактора на ~1000 MW, чтобы все это дело запитывать электроэнергией. Короче, если GPU - это новая нефть, то AI – это новый автомобиль. @ai_newz

Нейродайджест за неделю (#35) LLM, гонки и клубника - Гонка инференса Грок обогнал Cerebras, выдав >500 токенов/сек на Llama 70B. - SambaNova. Еще один лидер, о котором раньше никто не слышал. Теперь у ребят самая быстрая лама 405B. - Pixtral - 12B. Мультимодалка от Mistral теперь понимает картинки. - OpenAI o1 или та самая Strawberry. Скейлить инференс комьют через CoT — похоже, всё, что нам осталось. Прайсинг, конечно, жестокий. Генерация видео - Runway зарелизила модель для генерации video2video. Смотрим примеры, и почему оно работает лучше чем text2video. Гайды - Визуализация LLM. Все мы визуаллернеры, так что представлять в голове какую-то конкретную картинку очень полезно. - WebGPU puzzles. Оригинальный GPU Puzzles, но прямо в браузере. Кайфы, всё быстро и просто, идем ботать! Всякое - Разоблачаем AI-хапожоров или почему нужно читать проверенные источники. - Преза Apple. "Главное" нововведение — это то, что в названии после 1 теперь не 5, а 6. Интерактивчик! - Стрим про карьеру и учебу. Поговорили про поступление в ЕС, PhD программу в Meta и еще кучу ништяков, кто не успел — тот опоздал. Жмякайте unmute :) > Читать дайджест #34 #дайджест @ai_newz

Ещё примеры video2video. Мой любимый 5-й: там чуваки вырезали из картона болванки и неплохо так их оживили + за смекалку. Все же реактировать готовое видео – это гораздо более простая задача, чем генерить его по текстовому описанию с нуля. Когда на вход дают видео, то тут уже готовый реалистичный моушен и глобальная геометрия. Нужно только частично поменять, как оно рендерится, либо отредактировать только лишь какую-то часть видео. Думаю, что такие модели гораздо раньше найдут реальное применение в киноиндустрии чем text2video. @ai_newz

Смотрите что делают с фортнайтом в новом video to video режиме Runway GEN-3. На обычных десктопах в риалтайме это вряд-ли будет работать в ближайший год-два, но когда доускоряем... В геймдеве станет очень жарко, особенно когда такое будет доступно на консолях. В посте нже накидал еще, там есть пример того, как это реально можно применять в дешёвом продакшене. Соскрапил с твиттера, конечно же : ) @ai_newz

WebGPU puzzles Если всегда было интересно, как работать с GPU, но вы не знали с чего начать, то принёс вам занятие на субботний вечер - WebGPU Puzzles. Это небольшой курс задачек, вдохновлённый оригинальными GPU Puzzles, но работает прямо в браузере! Несмотря на браузер, скорость молниеносная - всё компилится и запускается за долю секунды после каждого нажатия клавиши. Из минусов - пока поддерживается только Chrome. Возможным это стало из-за gpu.cpp - библиотеки поверх WebGPU, упрощающей работу с компьютом. Answer AI с момента основания только и занимается тем, что создаёт такие мелочи, упрощающие жизнь. Они первыми заставили QLora работать с FSDP, а недавно выпустили FastHTML - фреймворк для создания небольших веб-приложений на чистом Python, хорошая альтернатива Gradio. https://gpupuzzles.answer.ai/ @ai_newz

Наткнулся в Твиттере на шикарную визуализацию LLM. Как выяснилось, ей уже целый год, но для новичков это все ещё полезная штука. Кроме красивой 3D-модельки, здесь еще подробный гайд по работе каждого элемента, как говорит автор, до каждого "сложить и умножить". По архитектурам там есть GPT-2, nanoGPT, GPT-2 XL, ну и GPT-3. Ссылочка на визуализацию @ai_newz

Не пропустите одно из самых масштабных событий этой осени в области искусственного интеллекта Со 2 по 4 октября в Иннополисе пройдет форум DID x AI IN 2024, где топовые спикеры страны обсудят кейсы внедрения ИИ в производство. Самые горячие темы по искусственному интеллекту: 🔹 ИИ в промышленности: нефтегаз, фармацевтика, химия, медицина, строительство 🔹 Внедрение Data Driven подхода в управление предприятием, монетизация ИИ-решений, оценка их эффективности 🔹 Генерирование и дополнение программного кода, цифровые двойники, дизайн лекарственных молекул и многое другое А еще Андрей Себрант, директор по стратегическому маркетингу «Яндекса» проведет визионерскую лекцию про генеративный, интерактивный и мультимодальный ИИ и расспросит топов ИТ-отрасли о факапах работы с технологией. ➡️Узнать больше о программе форума и зарегистрироваться. #промо

А вот и прайсинг API новых моделек, понятно почему не выпускали это практически год - ждали пока упадёт цена инференса. Цены на такое с использованием оригинальной GPT-4 или даже GPT-4 Turbo были бы астрономические. @ai_newz

o1 - новая моделька от OpenAI, та самая 🍓 Основной прорыв - научили модель скейлить инференс компьют через CoT, чем больше компьюта - тем лучше результаты. Инференс выходит дорогущим, но результаты сильно лучше. Доступ дают всем подписчикам ChatGPT и девам 5 тира (те кто потратили больше $1k на API). Подписчикам будут давать по 30 сообщений с o1 и 50 сообщений с o1-mini в неделю. https://openai.com/index/learning-to-reason-with-llms/ @ai_newz

3 минуты, сейчас настрою камеру и начнем.

Начинаем стрим через 3 минуты! Подключайтесь! Вопросы можно писать под этим постом.

В гонке быстрого инференса новый участник SambaNova запустили Llama 3.1: 405B на подтверждённой скорости в 132 токена в секунду, 70B - на скорости 461 токен в секунду и 8B - на скорости 1066 токенов в секунду. Это всё в bf16, без квантизации. На лидерборде Artificial Analysis у SambaNova точность 405B выше всех других провайдеров, но с моделями поменьше не всё так радужно. Я потестил их инференс, скорость и правда очень высокая - у меня 405B выдавала от 110 до 124 токенов в секунду, что очень близко к заявленным числам. 8B доходила до 1100 токенов в секунду, а вот 70B, хоть и выдавала до 466 в секунду на пике (в твиттере стартап вообще заявлял скорость до 570 в секунду), но у части запросов скорость была аж в два раза меньше. Цена 405B - $5/mt на вход и $10/mt на выход. Есть на рынке провайдеры и подешевле, но они все запускают модель с уменьшенной точностью. API уже доступно разработчикам для теста. Бесплатно, но с очень низкими лимитами. Возможность платить за API добавят позже. Попробовать можно тут Предыдущий пост из серии про быстрый инференс: тык. @ai_newz

После предыдущего стрима про карьеру и учебу в AI мне в личку написало очень много людей со своими вопросами. Так как в личке всем развернуто ответить сложно, я решил провести еще один стрим на тему учебы в Европе и того, что нужно для роли AI Scientist / AI Engineer в FAANG. 📌 Стрим будет завтра (12 сентября) с 16:00 до 17:00 CET. На этот раз я пригласил на стрим еще двух ребят (Настю и Никиту). Мы с ними обсудим учебу в Германии, Франции и Великобритании и наш опыт из первых рук. Настя училась на бакалавриате и в магистратуре в Karlsruhe Institute of Technology (KIT) в Германии. Никита учился в магистратуре École Polytechnique во Франции, и на PhD в Лондоне на совместной программе между Meta и Oxford University. Ну, а про меня вы знаете. Темы стрима: - Поговорим про различные роли в AI: Research Scientist, Research Engineer, ML Engineer, Data Scientist. Чем они отличаются, и что для них нужно знать и уметь. - Про PhD, магистратуру и бакалавриат в разных странах Европы и чем они отличаются. - Про PhD программу внутри Meta в Лондоне и Париже, и как туда попасть студенту. - Про собеседования и поиск работы в AI. Как всегда, пишите в комментах свои вопросы, в конце стрима я отвечу на самые интересные. Сохраняйте дату себе в календарь: инвайт. Увидимся завтра! @ai_newz

Учитесь в универе и давно хотите попробовать свои силы в решении реальных кейсов по машинному обучению и нейросетям? Международные олимпиады — отличный способ проверить свои знания и выйти на новый уровень! Одна из таких олимпиад — AIDAO от Яндекса и НИУ ВШЭ. Участникам предстоит решать IT-задачи в команде из 2-3 человек, а победители получат денежные призы до 600 тысяч рублей! Выполнять задания олимпиады нужно на английском, но разрешено пользоваться переводчиком. Если у вас нет команды, то вам помогут её найти во время регистрации. Чтобы принять участие, надо: - быть студентом бакалавриата или магистратуры в российском или зарубежном вузе; - разбираться в ML, алгоритмах и работе с данными; - подать заявку на сайте до 5 октября. Не упустите шанс применить свои навыки на практике и посоревноваться со студентами со всего мира! #промо