Вболівальники футболу мають неймовірну здатність згадувати конкретні моменти-виграшні грі, приземлення, вирішальне перехоплення та вражаючі улови. Однак для продюсерів ЗМІ Національної футбольної ліги (НФЛ), які доручили знайти ці конкретні п'єси в морі тисяч ігор та мільйонів п’єс, це як пошук голки в постійно зростаючій комірі сіна. Що може здатися простим проханням – “Покажіть мені, що Джастін Джефферсон приймає 4 -е місце в 2022 році, коли вікінги програли” – швидко стає жахливим завданням. Медіа -виробники та творці контенту традиційно проводять години або навіть дні, розчісуючи складні системи, щоб зібрати виділення барабанів або знайти один ідеальний кліп.
Масштаб медіа -архіву НФЛ справді масовий. У ньому розміщено понад 200 петабайт відео високої чіткості, фіксуючи кілька кутів камери з кожної гри протягом багатьох сезонів. Якщо говорити про це, якби ви намагалися постійно спостерігати за цим кадрами, на це знадобиться понад 175 років, і це не зробить жодної перерви. Цей величезний обсяг даних робить навігацію в архіві важливим викликом для персоналу медіа НФЛ, особливо за жорстких термінів живих трансляцій та створення контенту.
Пошук рішення
NFL потребував рішення, здатного швидко та точно отримувати конкретні відеокліпи, не вимагаючи від користувачів глибокі технічні знання про системи бекендів. Мета була простою: дозволити користувачам вводити запити природних мов та отримувати відповідні відеокліпи та метадані, все за лічені секунди.
Цей проект був не лише побудувати кращу пошукову систему-це було в основному переосмислення, як керувати та отримати доступ до масштабних відео-архівів в епоху штучного інтелекту (AI) та хмарних обчислень. Інженерні виклики були величезними: системі потрібно було зрозуміти нюанси специфічних для спорту запитів, обробляти продуктивність у режимі реального часу з масивними наборами даних та ефективно масштабу, особливо під час подій з високим рухом, як Super Bowl.
Введіть веб -сервіси Amazon (AWS). Використовуючи комбінацію хмарних технологій AWS, NFL та AWS розробили передовий інструмент пошуку, що працює на AI, щоб перетворити спосіб управління NFL та взаємодіє з його величезним відео-архівом.
Давайте зануримось у ключові компоненти, які роблять цю систему технологічним дивом.
Семантичне кешування з Amazon MemoryDB для Redis
В основі інструменту пошуку медіа NFL геймплей лежить складна семантична система кешування. Ця система виходить за рамки традиційних пошуків на основі ключових слів, пропонуючи більш розумний підхід до контексту до пошуку даних. Замість того, щоб покладатися на точні матчі, він розуміє значення, що стоїть за запитами, завдяки векторному вкладенню, які фіксують семантичне значення пошукових термінів.
Коли здійснюється новий запит, система генерує векторне вкладення-високовимірне представлення запиту-і порівнює його з вбудовуванням з минулих запитів, що зберігаються у векторній базі даних. Це дозволяє системі швидко виявити подібні минулі запити та швидше обробляти знайомі запити. Для нових або складних запитів система здійснює більш ретельний пошук.
Шар кешування побудований за допомогою Amazon MemoryDB для Redis, який служить як короткочасної пам'яті для обробки даних, що стосуються сеансу, так і довгострокової пам'яті для векторних пошуків. Цей вибір дизайну спрощує архітектуру, зберігаючи високу продуктивність. З технічної точки зору, семантична система кешування може обробляти до 10 000 запитів в секунду, забезпечуючи чуйність у реальному часі навіть під високим трафіком.
Побудова такої системи вимагала подолання декількох проблем, особливо оптимізації векторних операцій для сценаріїв низької затримки та високої суми. Команда розробників розробляла власні алгоритми для створення та порівняння векторних векторів у режимі реального часу, гарантуючи, що система може масштабуватись у міру зростання обсягу історичних даних.
Функція та інструмент дзвінка з Клодом з антропіки через Amazon Bedrock
Інструмент пошуку геймплейних засобів масової інформації NFL в медіа -пошуках використовує великі мовні моделі (LLMS) через Amazon Bedrock, використовуючи антропічну модель Claude. Ця система виділяється через свої функції та можливості виклику інструментів, що дозволяє AI взаємодіяти із зовнішніми системами та API.
Виклик функції дозволяє AI виконувати заздалегідь визначені завдання, як -от отримання даних або взаємодію з інструментами, крім просто генерування текстових відповідей. Наприклад, якщо запит потребує зовнішніх даних, система може виконувати функцію для отримання необхідної інформації та включення її у відповідь AI.
Ця конструкція дозволяє системі виконувати до 500 дзвінків зовнішніх функцій в секунду із середньою затримкою менше 100 мілісекунд, що дозволяє обробляти складні запити, які потребують декількох пошуків даних без шкоди швидкості.
Система викликів функцій також гарантує, що відповіді постійно форматуються для обробки нижче, підтримки цілісності даних та полегшення інтеграції результатів з іншими системами.
Оновлення в режимі реального часу за допомогою API WebSocket
Ключовою особливістю інструменту пошуку медіа NFL є його використання API WebSocket для зв'язку в режимі реального часу між клієнтом та сервером. Ця технологія забезпечує дві найважливіші функції:
- Потока процесів: Коли система обробляє запит, вона надсилає користувачеві оновлення в режимі реального часу, надаючи відгуки про хід складних пошуків.
- Потока токенів: Коли AI генерує відповідь, він передає його Token за допомогою Token, створюючи інтерактивний досвід у режимі реального часу для користувачів.
Порівняно з традиційними API REST, API WebSocket пропонують низьку затримку, двонаправлену комунікацію, що є важливим для підтримки оновлень у режимі реального часу та чуйності під час процесу запитів. Реалізація WebSocket підтримує до 50 000 одночасних з'єднань і може обробляти 1 мільйон повідомлень в секунду, гарантуючи, що система може масштабувати під час подій з високим рухом, як Super Bowl.
Реалізація WebSockets також вимагала розробки надійних стратегій обробки помилок та повторного з'єднання, щоб забезпечити безперебійний досвід користувачів, навіть в менш-ідентичних умовах мережі.
Масштабованість та продуктивність: ключ до успіху
Здатність цієї системи масштабувати під час пікових періодів використання має вирішальне значення для НФЛ. Незалежно від того, чи продає продюсер конкретна гра чи вентилятор шукає персоналізованих барабанів, система повинна ефективно обробляти навантаження.
Поєднуючи Amazon MemoryDB для Redis, Anthropic Claude через Amazon BedRock та API WebSocket, інструмент пошуку медіа ігрових медіа NFL пропонує продуктивність та масштабованість у режимі реального часу, вирішуючи величезний обсяг даних та запитів запитів.
Поза межами сітки: майбутні програми
Успіх інструменту пошуку засобів масової інформації NFL відкриває захоплюючі можливості поза спортивним мовленням. Цей проект демонструє, як AI у поєднанні з розширеною хмарною інфраструктурою може розблокувати нові можливості в управлінні медіа-активами, пропонуючи розуміння розробникам та інженерам, які будують подібні масштабні системи, що працюють на AI.
Основна технологія може бути застосована в різних галузях, що стосуються великих обсягів даних і потребують швидкого пошуку контексту. Ті ж принципи, які дозволяють цій системі знайти конкретний пропуск за секунду, можна використовувати для проведення медичних досліджень, допомагаючи лікарям швидко знайти відповідні тематичні дослідження. Фінансові аналітики можуть використовувати подібні інструменти для просіювання даних про ринок, визначення тенденцій та закономірностей у режимі реального часу. У освіті така система може революціонізувати, як студенти та дослідники отримують доступ та взаємодіють з величезними архівами навчальних матеріалів.
Висновок
Інструмент пошуку медіа NFL – це більше, ніж просто рішення для виробників медіа NFL – це погляд на майбутнє, як організації будуть взаємодіяти з масовими наборами даних. Використовуючи технології AWS, NFL не тільки створив систему, яка впорядковує створення контенту та покращує якість трансляції, але й створює підґрунтя для майбутніх інновацій у залученні фанів та за її межами.
В епоху, коли AI відіграє все більш центральну роль у тому, як ми отримуємо доступ та взаємодію з даними, використання NFL технології пошуку, що працює на АІ Обробка для вирішення складних масштабних проблем.