AWS на русском

063. Расширяем контекст LLM: от RAG до агентов — как победить ограничения AI?

Думаете, увеличение контекстного окна до миллионов токенов решает все проблемы? На самом деле модели всё равно теряют фокус, упускают важные детали в середине и страдают от информационной перегрузки!
В этом выпуске обсуждаем:
🔹 Retrieval-Augmented Generation (RAG): как эта технология борется с "галлюцинациями" и устаревшими данными, обогащая ответы AI.
💡 GraphRAG: почему семантические графы — это следующий шаг в понимании сложных связей в данных, и как это меняет игру.
🎧 Tools и Function Calling: как научить модель взаимодействовать с внешним миром, получать актуальную информацию и выполнять действия через API.
💬 AI-агенты: как мы переходим от простых диалоговых сценариев к автономным системам, способным самостоятельно планировать и выполнять задачи.
Этот выпуск будет особенно полезен разработчикам и архитекторам, которые хотят создавать более умные и автономные AI-решения, используя такие инструменты, как Amazon Bedrock.
💡 Узнаете, почему Nova Micro в 27 раз дешевле популярных моделей и как правильно декомпозировать документы для векторного поиска с учётом прав доступа.
Навигация для Podbean:(0:00) Introduction(3:15) Проблема ограниченного контекста в LLM(8:40) Что такое RAG и как он обогащает запросы?(15:20) GraphRAG: новый уровень работы с данными через графы(22:10) Tools и Function Calling: как научить LLM действовать?(28:55) От диалоговых флоу к автономным AI-агентам(35:30) Анонс следующего эпизода: что такое MCP?
Навигация для YouTube:00:00:00 - Начало00:03:15 - Проблема ограниченного контекста в LLM00:08:40 - Что такое RAG и как он обогащает запросы?00:15:20 - GraphRAG: новый уровень работы с данными через графы00:22:10 - Tools и Function Calling: как научить LLM действовать?00:28:55 - От диалоговых флоу к автономным AI-агентам00:35:30 - Анонс следующего эпизода: что такое MCP?
 
🎧 Слушайте на любимой платформе:
• YouTube
• Podbean
• Apple Podcast
• Яндекс.Музыка
• Spotify
• 💬 Какие подходы к расширению контекста используете вы? Пробовали Graph RAG в продакшене?
#AWS #AI #RAG #GraphRAG #LLM
 

062. Масштабирование ML в AWS: От Исследований до Миллионов Предсказаний

Как построить ML-систему, которая обрабатывает десятки миллионов предсказаний в месяц? Особенно когда речь идет о критически важном производственном процессе!
В новом выпуске подкаста "AWS на русском" мы говорим с AWS ML Hero Рустемом (Rustem Feyzkhanov) о том, как масштабировать ML-системы в облаке от этапа исследований до промышленного внедрения:
🔹 Как построить эффективный ML-пайплайн для автоматического обучения моделей
🔹 Почему SageMaker Training Jobs и AWS Lambda — идеальная комбинация для масштабирования
🔹 Как оптимизировать расходы на ML-инфраструктуру с помощью spot-инстансов
🔹 Секреты мониторинга и отладки ML-систем в продакшене
Этот выпуск будет особенно полезен ML-инженерам, DevOps-специалистам и техническим лидам, которые работают над масштабированием ML-решений в облаке.
💡 Узнаете, как сократить время итерации ML-экспериментов с дней до часов и автоматизировать процесс вывода моделей в продакшен.
Навигация для Podbean:
• (0:00) Введение и представление гостя
• (5:30) Особенности AutoML платформы
• (15:45) ML-пайплайны и инфраструктура
• (25:20) Масштабирование и оптимизация
• (35:10) Мониторинг и поддержка
• (45:30) Рекомендации и выводы
Навигация для YouTube:
00:00:00 - Начало
00:05:30 - Особенности AutoML платформы
00:15:45 - ML-пайплайны и инфраструктура
00:25:20 - Масштабирование и оптимизация
00:35:10 - Мониторинг и поддержка
00:45:30 - Рекомендации и выводы
🎧 Слушайте на любимой платформе:
• YouTube
• Podbean
• Apple Podcast
• Яндекс.Музыка
• Spotify
• RSS
💬 А как вы решаете задачи масштабирования ML-систем? Делитесь опытом в комментариях!
#AWS #MachineLearning #SageMaker #MLOps 
 

061. Prompt Engineering: Как заставить AI работать на максимум?

Думаете, достаточно просто задать вопрос искусственному интеллекту и получить идеальный ответ? На самом деле всё гораздо интереснее!
В новом выпуске подкаста "AWS на русском" мы с Федором Павловым погружаемся в мир prompt engineering и раскрываем секреты эффективного взаимодействия с LLM:
🔹 Почему простой вопрос — это часто ошибочная стратегия🔹 Как правильно задавать контекст и роли для AI🔹 Few-shot learning: магия примеров в действии🔹 Продвинутые техники для улучшения качества ответов
Особенно интересно будет разработчикам, которые хотят повысить свою продуктивность с помощью AI-инструментов, таких как Amazon Q Developer.
💡 Узнаете, почему фраза "думай пошагово" творит чудеса с AI и как избежать типичных ошибок при составлении промптов.
🎧 Слушайте на любимой платформе:
• YouTube • Podbean • Apple Podcast • Яндекс.Музыка • Spotify • RSS
💬 А как вы используете AI в своей работе? Делитесь опытом в комментариях!
#AWS #AI #PromptEngineering #LLM #разработка #подкаст
Навигация для Podbean:
• (0:00) Введение • (0:25) Приглашенный гость Федор Павлов • (0:29) Обсуждение General TFI и промпт-инжиниринг • (2:08) Почему простой вопрос — это часто ошибочная стратегия • (2:29) Сравнение промпт-инжиниринга с SQL
• (4:05) Как правильно задавать контекст и роли для AI • (6:51) Зачем нужен prompt engineering • (12:25) Few-shot learning: магия примеров в действии • (18:36) Продвинутые техники для улучшения качества ответов • (38:48) Борьба с галлюцинациями в моделях
Навигация для YouTube:
• 00:00:00 - Начало • 00:00:25 - Приглашенный гость Федор Павлов • 00:00:29 - Обсуждение General TFI и промпт-инжиниринг • 00:02:08 - Почему простой вопрос — это часто ошибочная стратегия • 00:02:29 - Сравнение промпт-инжиниринга с SQL
• 00:04:05 - Как правильно задавать контекст и роли для AI • 00:06:51 - Зачем нужен prompt engineering • 00:12:25 - Few-shot learning: магия примеров в действии • 00:18:36 - Продвинутые техники для улучшения качества ответов • 00:38:48 - Борьба с галлюцинациями в моделях

060. Что такое Amazon SageMaker Lakehouse и что общего между айсбергом и хранилищем данных? 🤔

В новом эпизоде мы погружаемся в горячую тему — изменения в AWS SageMaker и появление SageMaker LakeHouse!
Наш специальный гость — эксперт по аналитике Eugene Krasikov — раскрывает все карты:
• 🔄 Как эволюционировали хранилища данных за последние 20 лет
• 🎯 Почему Apache Iceberg становится новым стандартом
• 🚀 Что такое SageMaker Lakehouse и как он может изменить вашу работу с данными
• 💡 Как построить современное хранилище данных без головной боли
Особенно интересно будет тем, кто работает с:
• Data Lake и Data Warehouse
• Аналитикой больших данных
• Machine Learning проектами
 
🎧 Слушайте на любимой платформе:
• YouTube: https://www.youtube.com/watch?v=IhDf_c1icRE&list=PLxtckYH8Cdy_WT5tcCITt_f61Zr2qQJbL
• Podbean: https://awsinrussian.podbean.com/
• Apple Podcast: https://podcasts.apple.com/by/podcast/aws-%D0%BD%D0%B0-%D1%80%D1%83%D1%81%D1%81%D0%BA%D0%BE%D0%BC/id1600771698
• Яндекс.Музыка: https://music.yandex.ru/album/20088544
• Spotify: https://open.spotify.com/show/4kOoih4FvHqyK5mLF3E42J
• RSS: https://feed.podbean.com/awsnarusskom/feed.xml
💬 Какие темы по SaaS и облачным технологиям вы хотели бы услышать в следующих выпусках? Делитесь в комментариях!

059. Масштабирование SaaS с Enterprise Support в регионе CEE

В новом выпуске подкаста "AWS на русском" мы погружаемся в мир Independent Software Vendors (ISV) и раскрываем секреты построения успешного SaaS-бизнеса! 🚀
Наш гость — Александр Игнатенко, руководитель команды Enterprise Support в AWS, делится уникальным опытом работы с ISV-клиентами в Центральной и Восточной Европе.
Из выпуска вы узнаете:
✨ Что такое ISV и почему это важно для вашего бизнеса
🏢 Гениальную аналогию multi-tenancy с бизнес-центром (спойлер: очень наглядно!)
🔧 Как решать типичные проблемы SaaS-архитектуры
🤖 Практические кейсы внедрения Generative AI
💰 Реальные истории успеха по оптимизации затрат (до 20% экономии!)
Ссылки из подкаста:
https://aws.amazon.com/premiumsupport/plans/enterprise/
https://aws.amazon.com/premiumsupport/tam-engagement/
PandaDoc:https://aws.amazon.com/blogs/aws-cloud-financial-management/how-pandadoc-took-cloud-operation-to-a-new-level-with-aws/
JetBrains IntelliJhttps://aws.amazon.com/solutions/case-studies/jetbrains/?did=cr_card&trk=cr_card
 
🎧 Слушайте на любимой платформе:
• YouTube: https://www.youtube.com/watch?v=IhDf_c1icRE&list=PLxtckYH8Cdy_WT5tcCITt_f61Zr2qQJbL
• Podbean: https://awsinrussian.podbean.com/
• Apple Podcast: https://podcasts.apple.com/by/podcast/aws-%D0%BD%D0%B0-%D1%80%D1%83%D1%81%D1%81%D0%BA%D0%BE%D0%BC/id1600771698
• Яндекс.Музыка: https://music.yandex.ru/album/20088544
• Spotify: https://open.spotify.com/show/4kOoih4FvHqyK5mLF3E42J
• RSS: https://feed.podbean.com/awsnarusskom/feed.xml
💬 Какие темы по SaaS и облачным технологиям вы хотели бы услышать в следующих выпусках? Делитесь в комментариях!

058. Новостной выпуск перед reInvent 2024

Мы просмотрели более 850 обновлений и отобрали самое важное перед re:Invent 2024!
 
В этом выпуске вы узнаете:
• 🛡 Как централизованно управлять root-доступом в Organizations
• 💪 Какие EC2 instances уже доступны с Graviton 4?
• 🤝 О стратегическом партнерстве Oracle и AWS
• 🎮 Про обновление AWS Builder Cards и новые форматы вопросов в  сертификационных экзаменах
 
⚡️ Ключевые таймкоды:
00:00 - Вступление
02:51 - DevOps новости
06:01 - Безопасность и управление доступом
15:14 - Graviton 4 и новые инстансы
27:01 - Базы данных
31:29 - Сертификация и обучение
37:10 - AWS Builder Cards
 
🔗 Полезные ссылки из выпуска:
• AWS Console to Code: https://aws.amazon.com/blogs/aws/convert-aws-console-actions-to-reusable-code-with-aws-console-to-code-now-generally-available/
• Karpenter 1.0: https://aws.amazon.com/about-aws/whats-new/2024/08/karpenter-1-0/
• Oracle Database@AWS: https://press.aboutamazon.com/aws/2024/9/oracle-and-amazon-web-services-announce-strategic-partnership
 
🎧 Слушайте на любимой платформе:
• YouTube: https://www.youtube.com/watch?v=IhDf_c1icRE&list=PLxtckYH8Cdy_WT5tcCITt_f61Zr2qQJbL
• Podbean: https://awsinrussian.podbean.com/
• Apple Podcast: https://podcasts.apple.com/by/podcast/aws-%D0%BD%D0%B0-%D1%80%D1%83%D1%81%D1%81%D0%BA%D0%BE%D0%BC/id1600771698
• Яндекс.Музыка: https://music.yandex.ru/album/20088544
• Spotify: https://open.spotify.com/show/4kOoih4FvHqyK5mLF3E42J
• RSS: https://feed.podbean.com/awsnarusskom/feed.xml
 
💬 Какие темы вы хотели бы услышать в следующих выпусках? Делитесь в комментариях!
#aws #cloud #podcast #devops #cloudcomputing

057. Reliability vs Resilience: в чем разница и почему это важно для вашего бизнеса?

В этом эпизоде раскрываем все карты:
• Чем отличается reliability от resilience (спойлер: это не одно и то же!)
• Как измерить надежность системы и что такое "девятки" доступности
• Почему нельзя просто взять и сделать систему с пятью девятками (и сколько это будет стоить 💰)
• Что такое disaster recovery и зачем вообще об этом думать
Интересные инсайты из выпуска:
✨ Reliability включает в себя resilience, но не наоборот
🎯 Надежность — это результат, а устойчивость — способ его достижения
⚡️ Высокая доступность может стоить в разы дороже, чем вы думаете
 
Слушайте на любимой платформе:
🎧 YouTube: https://www.youtube.com/watch?v=IhDf_c1icRE
🎧 Podbean: https://awsinrussian.podbean.com/
🎧 Apple Podcast: https://podcasts.apple.com/by/podcast/aws-%D0%BD%D0%B0-%D1%80%D1%83%D1%81%D1%81%D0%BA%D0%BE%D0%BC/id1600771698
🎧 Яндекс.Музыка: https://music.yandex.ru/album/20088544
🎧 Spotify: https://open.spotify.com/show/4kOoih4FvHqyK5mLF3E42J
📱 RSS: https://feed.podbean.com/awsnarusskom/feed.xml

056. Безопасность генеративного ИИ: о чем нужно знать прямо сейчас?

🔐 Безопасность генеративного ИИ: о чем нужно знать прямо сейчас?
88% компаний планируют инвестировать в ИИ, но многие из них серьезно обеспокоены вопросами безопасности. Неудивительно: чем активнее бизнес внедряет генеративный ИИ, тем острее встает вопрос защиты данных и систем.
В новом выпуске подкаста AWS на русском мы говорим с Вячеславом Романовым, архитектором AWS, о том, как построить безопасную систему с использованием генеративного ИИ. 
Что обсуждаем: • 5 ключевых сценариев использования ИИ и связанные с ними риски• Как защититься от prompt injection и других типов атак • Практические решения от AWS для обеспечения безопасности• Что такое Amazon Bedrock guardrails и как их правильно настроить
 
🎧 Слушайте на любимой платформе:
▶️ YouTube: https://www.youtube.com/watch?v=IhDf_c1icRE&list=PLxtckYH8Cdy_WT5tcCITt_f61Zr2qQJbL🎵 Spotify: https://open.spotify.com/show/4kOoih4FvHqyK5mLF3E42J🍎 Apple Podcasts: https://podcasts.apple.com/by/podcast/aws-%D0%BD%D0%B0-%D1%80%D1%83%D1%81%D1%81%D0%BA%D0%BE%D0%BC/id1600771698🎧 Podbean: https://awsinrussian.podbean.com/🎵 Яндекс.Музыка: https://music.yandex.ru/album/20088544📱 RSS: https://feed.podbean.com/awsnarusskom/feed.xml
💬 Какие вопросы безопасности ИИ волнуют вас больше всего? Делитесь в комментариях!
#GenAI #AWSPodcast

055. Кто такой TAM (Technical Account Manager)?

В новом выпуске подкаста AWS на русском мы поговорили с Артемом Максименко, Technical Account Manager в AWS, и узнали:
✨ Почему Enterprise Support — это как персональный консьерж-сервис для вашего облака. 
🔍 Кто такой ТАМ и как он может помочь сократить расходы на AWS (спойлер: иногда достаточно просто "подрезать низковисящие фрукты")
🛡️ Почему Firewall в облаке — это еще не вся безопасность
⚡️ Как получить прямой доступ к сервисным командам AWS
🎯 Что такое программа Countdown и как она помогает в критических миграциях
Особенно интересный инсайт: TAM работает не только реактивно (решая возникшие проблемы), но и проактивно — помогая предотвратить потенциальные сложности еще до их появления.
 
🎧 Слушайте на любимой платформе:
• YouTube: https://www.youtube.com/watch?v=IhDf_c1icRE&list=PLxtckYH8Cdy_WT5tcCITt_f61Zr2qQJbL
• Podbean: https://awsnarusskom.podbean.com/
• Apple Podcast: https://podcasts.apple.com/by/podcast/aws-%D0%BD%D0%B0-%D1%80%D1%83%D1%81%D1%81%D0%BA%D0%BE%D0%BC/id1600771698
• Яндекс.Музыка:  https://music.yandex.ru/album/20088544 
• Spotify: https://open.spotify.com/show/4kOoih4FvHqyK5mLF3E42J 
• RSS: https://feed.podbean.com/awsnarusskom/feed.xml 
💬 А какой у вас опыт работы с поддержкой AWS? Делитесь в комментариях!

054. Как Community Day меняет IT-ландшафт Центральной Азии

🎙️ В этом эпизоде мы беседуем с организаторами AWS Community Day Central Asia в Ташкенте. Узнайте из первых уст:
Почему Community Day — это больше, чем просто конференция
Как собрать 500+ участников и звездных спикеров в одном месте
Секреты организации международного IT-ивента
Что такое Game Day и почему это круче обычного воркшопа
💡 Интересные факты из выпуска:
Организаторы провели почти 20 ивентов за 2023 год!
На Community Day приезжают участники из многих стран мира
Как собрать деньги на некоммерческую конференцию в регионе
🤔 Главный вопрос выпуска: Как Community Day помогает развитию IT-сообщества в Центральной Азии?