audience statistics эйай ньюз

Since the beginning of the war, more than 2000 civilians have been killed by Russian missiles, according to official data. Help us protect Ukrainians from missiles - provide max military assisstance to Ukraine #Ukraine. #StandWithUkraine

Gemini Nano встроят в следующую версию Chrome Кроме того, что зарелизили мультимодальную супер-легковесную Gemini Nano, предназначенную бегать на Edge девайсах, ее теперь еще и встраивают в Chrome! Запускаться будет прямо на девайсе (!), что даст очень хороший автокомплит всюду в браузере. Но главное - разработчикам сайтов дадут доступ к модельке, в том числе через специальные упрощенные API (пока обещают перевод, суммирование текста, транскрибирование аудио). Сайтам теперь не нужно будет платить за дорогие облачные LLM, всё будет на клиенте. Для этих целей и Кажется, это может стать киллер-фичей для Хрома. Работать это всё пока будет через WebGPU, но вроде обещают в будущем запускать модельку на NPU. Как и всё на Google I/O, эта фича ещё в превью. Но релиз будет уже в Chrome 126, который выходит 5 июня. Теперь Хром ещё больше полюбит оперативку Блогпост Податься на превью можно тут @ai_newz

Провел гугл свою презентацию Google I/O Смотреть стало скучно спустя 0 секунд, начиная с речи ни о чем от Сундара Пичалька. Фото из зрительского зала прикрепляю. Показали свою новую Сору, а еще поржали сами над собой, посчитав, что сказали "AI" 121 раз. Ну это кроме Gemini 1.5 Pro, которую открыли для пользователей Advanced. Почти все презентованное будет доступно... когда-то... В целом, это был рассказ о том, как Google видит свое будущее в AI или AI будущее в себе. Gemini запихнули ну куда только можно, о чем директор каждого отдела с большой гордостью отчитался. Такое ощущение, что у них там устроили конкурс, кто больше придумает юзкейсов и интеграций в интерфейсы своих приложух. Ну а в итоге, все говорили об одном и том же. Акции GOOGL немножко приподнялись в моменте, думаю в этом и была цель — закинуть удочку на будущее для инвесторов. При всем при этом вот что я думаю: Gemini со всеми этими приколюхами может стать go-to нейронкой для обывателей, так как он торчит из всех щелей, бесплатный и бесшовно встраивается в существующие привычки пользователей. Я говорю о том, что в Chrome ты так и так зайдешь, а вот сайт OpenAI не каждый обыватель специально откроет. @ai_newz

Тут, кажется, все пропустили Music Ai Sandbox. Первая music2music моделька! Это уже полноценный инструмент со своим интерфейсом, который дорабатывает готовые сэмплы, а еще делает style transfer и вариации. Короче, диванным-продюсерам наконец-то есть с чем поэкспериментировать. Хотя, если честно, я действительно вижу, как настоящие музыканты могли бы ее использовать в своем workflow (см пример на видео, как hip-hop исполнители ее используют для создания сэмплов). Гугл об этом инструменте писал еще в Ноябре 2023 года (модель Lyria). Его только переименовали в Music Ai Sandbox теперь, и, наверное, доработали. Но сейчас, как и тогда, инструмент доступен только узкому кругу музыкантов. 😢 Еще примеры работы тут. @ai_newz

Gemma 2 релизнут уже в следующем месяце К существующим 2B и 7B (на самом деле 8B) добавится ещё 27B моделька. Ещё релизят PaliGemma, 3B визуальную LLM, веса тут. @ai_newz

Gems - аналог GPTs для Gemini. Как всегда не релизят сразу, будет доступно через несколько месяцев. @ai_newz

А вот примеры генерации с помощью Veo. Говорят, что могут сгенерит до 60 секунд в 1080p. Но почему-то все приметы в твиттере, кроме одного, по 8 сек. @ai_newz

Новые TPU v6 Trillium, в 4.7 раз быстрее текущего поколения, будут доступны клиентам в конце 2024 года @ai_newz

Veo - конкурент Sora от Google Понимает промпты в виде текста, видео и картинок, генерит в 1080p. @ai_newz

Imagen 3 - новая моделька для генерации изображений. Лучше понимает длинные промпты и рендерит текст. @ai_newz

На сцену выпустили Демиса Хассабиса, главу Google DeepMind Он показал Gemini 1.5 Flash оптимизированную для низкой задержки. Версия с 1 миллионом контекста доступна всем, для 2 миллионов нужно просить доступ. @ai_newz

Улучшенная Gemini 1.5 Pro теперь доступна в Gemini Advanced и для разработчиков. В приватном превью будет доступна версия с контекстом в два ляма токенов. @ai_newz

Google в 2018: Фантастическая технология Duplex, бронирует за тебя встречи, общается как реальный человек Google спустя 6 лет:

Через двадцать минут основная презентация Google I/O, так что вот мой минимальный список ожиданий: * Релиз Gemini 1.5 Pro за пределами AI Studio * Анонс (и желательно релиз) Gemini 1.5 Ultra * Анонс, или хоть какой-то намёк на совместный VR шлем Google и Samsung * Память и аналог GPTs для Gemini * Видео функционал который они тизерили вчера Хотелось бы увидеть какие-то подвижки к Gemini 2.0, побольше окно контекста для API Gemini 1.5, хоть какие-то опенсорс релизы и аналоги функционала со вчерашней презентации GPT-4o, но тут есть сомнения. Я конечно же напишу пост по итогам, а стрим посмотреть можно тут (пока что там бегает вылезший из чашки диджей и поставляет кринж в промышленных масштабах). @ai_newz

Прикольный юзкейс GPT-4o – переводчик. Подумал, что мне оно могло бы пригодиться в поездах в Азию (Япония, Корея, Китай), где люди часто не знают английского от слова совсем. Несколько лет назад я пользовался Google Translate в таких ситуациях, и он, конечно, ни в какие сравнения не идет с GPT-4o. А тут гэпэтэшка так бодренько переводит приятным голосом, да и с минимальными задержками. @ai_newz

"Выигрыш в лотерею каждый день", "Японские первоклассные порнографические блокбастеры", "Бесплатные видео для просмотра онлайн" Не бойтесь, меня не взломали. Это просто токены которые нашли в новом мультиязычном токенизаторе GPT-4o, переведённые с китайского (大发快三的, _日本一级特黄大片, 免费视频在线观看). В датасет для тренировки токенизатора попала куча спама, и там теперь есть токены для рекламы казино, пиратского контента и просьб всяких нигерийских принцев. Хороший пример того, какой бардак творится в токенизаторах даже SOTA LLM, и прекрасное напоминание о том, что и в OpenAI не боги горшки обжигают. Какие ещё сюрпризы нас ждут в токенизаторе GPT-4o? @ai_newz

Завтра Google I/O и они тизерят апдейты Gemini Так же как и в GPT-4o есть поддержка видео, но задержка звука после презентации OpenAI ощущается ужасно - больше 3 секунд против 300 миллисекунд у GPT-4o. @ai_newz

OpenAI показали GPT-4o (omni), выбрал главное Доступна для бесплатных пользователей Запредельные результаты на Chatbot Arena - отрыв в 57 ELO на общих задачах и в 100 ELO на коде Модель нативно понимает звук, с ней можно разговаривать, задержка разговора упала в 10 раз по сравнение с более ранним голосовым режимом Она может петь Нейронка понимает видео в реальном времени У ChatGPT есть теперь приложение на MacOS, которому можно даже стримить экран! В два раза быстрее и дешевле GPT-4 Turbo Новый мультиязычный токенизатор - для для некоторых языков нужно теперь в 4.4x меньше токенов За счёт этого модель суммарно в 3.5 раза дешевле для русского языка Доступ к модели уже начали выдавать пользователям ChatGPT, API доступен разработчикам Разговорный режим будет доступен для подписчиков Plus в ближайшие недели Более продвинутые аудио и видео возможности дают ограниченным группам пользователей @ai_newz

​Курс по квантизации для тех, кто хочет быть в теме Эндрю Ын, о котором здесь писалось уже не раз, вместе со спецами из обнимающего лица _marcsun и younesbelkada дропнул очередной эйай #ликбез. На этот раз о квантизации. Квантизация — это сжатие модели с 32 до 16, 8 или даже 2 бит, не особо теряя при этом в качестве. Считай, raw перевели в jpeg. Так же как и без MoE современные ллм дорого тренировать, так и без квантизации их дорого инференсить - железо которое тянет эти килотонны весов влетает в копеечку. Чему учат: - применять си/асимметричную линейную квантизацию. - квантизации на разных уровнях: по тензорам, по каналам, по группам. - созданию квантизатора на практике с упаковкой до 2-х бит. Ссылочка на курс @ai_newz

Yandex приглашает поучаствовать в Practical ML Conf 14 сентября! На конференции расскажут о том, как применять ML-технологии в бизнесе и реальных продуктах. Зарегистрироваться можно уже сейчас — те, кто сделает это раньше всех, попадут на закрытый мини-ивент в июле. Желающие поделиться своим опытом в ML могут стать спикером конференции, оставив заявку. Ключевые темы конференции — CV, RecSys, MLOps, NLP, Speech и Analytics. После подачи программный комитет рассмотрит заявки и примет решение об участии каждого претендента. 🔹 Сбор заявок завершится 13 июля. Реклама. ООО "Яндекс", ИНН 7736207543. #промо

Немного с задержкой, но вот все-таки он: Нейродайджест за неделю (#17) 1. Ла Лэ Мэ   - Xiaomi из мира LLM. Deepseek V2. Топ за свои деньги, чуть хуже Llama 3.   - Майки тизерят MAI-1, это будет их первенец; без помощи OpenAI. Есть закос на уровень GPT-4, но с 500B MoE.   - Сравнительная таблица 100+ лучших LLM-ок для выбора под свои задачи.   - В чем феномен Llama 3 или подробный анализ успеха всеми любимой ламы. 2. Тизеры и релизы   - ElevenLabs снова всех уделал в звуке, представив свой txt2music. Судя по тизеру, у Suno и Udio нет шансов.   - IC Light или кнопка "Сделай красиво" для фотошоперов. Плагин для A1111 и др. мэтчит освещение фона и добавленного предмета. 3. Интересное - Определяем и делаем Jiggle physics 🍒 для гауссовских сплатов по сгенерированному видео.   - 1900 вопросов с разбором для подготовки к собесу в ML и т.п.   - Пускаем скупую мужскую слезу на олдскульные девайсы. > Читать дайджест #16 #дайджест @ai_newz

Орги ChatBot Arena проанализировали, как Llama-3 забралась так высоко на лидерборде. Llama 3, будучи сравнительно маленькой моделью отстаёт от GPT-4 на более сложных задачах, типа матеши и ризонинга, судя по анализу от Lmsys. Но вот в креативных задачах и особенно в каких-то абстрактных задачах, где нужно что-то придумать (куда сходить вечером и тп) выигрывает старшие модели причём со значительным отрывом. Таких запросов от пользователей по всей видимости большинство, и именно они закидывают ламу3 в топ. Но это не отвечает на вопрос, как ей удаётся побеждать старшие модели на этих запросах. Кажется, что если модель лучше и больше, то она должна быть лучше и больше во всем. Так почему же llama 3 так хороша? Если коротко, то это компьют и качественные данные. - Датасет фильтровали и фильтровали, чтобы модель училась только на всем хорошем. Кстати секрет той же Dalle 3 или GPT-4 в том же. У Dalle3 картинки в тренировочном датасете очень подробно описаны gpt-шкой с виженом. А для самой GPT-4, понятно, тоже сильно фильтровали тексты. - Есть такая гипотеза – Оптимальность модели по Шиншилле. Из нее следует, что для 8B модели достаточно датасета в 200B токенов. И долгое время это считалось стандартом – якобы дальше тренить смысла нет. Но Llama3 натренили на 15 триллионах токенов и она всё ещё продолжала учиться. Крч перетрейн капитальный. - И, пожалуй, главное –аккуратный файнтюн на ручной разметке. Кроме почти уже стандартных supervised fine-tuning (SFT), rejection sampling, proximal policy optimization (PPO), и direct preference optimization (DPO) парни скормили лламе3 10 лямов размеченных вручную примеров. Окей, с тяжелыми тасками она всё равно не очень справляется. Но, оказывается, это и не надо...🤷‍♀️ Юзеры обычно просят какую-нибудь фигню по типу придумай то то, как сделать это... Лама благодаря хорошему датасету и ручному файнтюну просто оказалась очень харизматичной. Отвечает приятно, структура хорошая, на человека похожа:) High-level Видосик про Llama3 Предыдущий пост про Llama3 Блог пост @ai_newz

А вот мои приколюхи. Не стал париться с автоматиком, но в демке освещение изменятся только промптом. Оказывается, работает даже с пейзажами. Но мелкие детали все же коверкает. На первой фотке - я катаюсь в Гудаури. На второй - вид на Сан-Франциско, который я сфоткал во время своей последней поездки. @ai_newz

Сначала не обратил внимания на эту программулину. Но теперь очевидно, насколько это мощный инструмент. IC Light выкатили обновление, которое позволяет матчить освещение двух картинок. i.e. поместить предмет на фон и сделать так, чтобы свет на этот предмет падал в соответствии с освещением фоновой картинки. Можно долго рассказывать про то, как на протяжении веков фотошоперы мучились и страдали от того, что не могли скомпозить две картинки из-за не совпадающего освещения. Но теперь вот вопрос решился ;) Демо на обнимающем лице (пока без фоновой картинки) GitHub @ai_newz