preview preview
Нова функція

Слухай статті з Respeecher

Нова функція дозволяє слухати статті в зручному форматі завдяки технології від Respeecher. Насолоджуйтесь контентом у будь-який час – у дорозі, під час тренувань або відпочинку.
preview
00:00 00:00
Наступні статті
    Завантажується
    Голос
    Вибір голосу
      player background
      Вибір голосу
        Наступні статті
          Завантажується
          00:00 00:00
          НОВИНИ

          Українські айтівці розробили фреймворк для інтеграції LLM у чатботи

          24 Листопада 2023, 15:49
          2 хв читання
          Юлія Ткач Шеф-редакторка, авторка і ведуча подкасту «Хто ці люди».
          Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.
          Режим читання

          Режим читання збільшує текст, прибирає всю зайву інформацію зі сторінки і дозволяє зосередитися на матеріалі. Тут ви можете вимкнути його в будь-який момент.

          Айтівці з Master of Code Global представили фреймворк для інтеграції великих мовних моделей у чатботи. Подробицями поділилися з нами.

          Що сталося

          Нещодавно айтівці з Master of Code Global розробили застосунок для замовлення побутових послуг для мешканців Кувейту та ОАЕ та чатбот для католицької церкви в Нью-Йорку.

          IT-компанія Master of Code Global презентувала інструмент для інтеграції великих мовних моделей (таких як ChatGPT) у розмовні рішення з використанням штучного інтелекту — Large Language Model Orchestrator Framework Tool (LOFT).

          Пояснюють: раніше IT-компанія EPAM презентувала фреймворк із аналогічними цілями під назвою DIAL. На думку розробників Master of Code Global, фреймворк DIAL є значно масштабнішим, оскільки складається з багатьох репозиторіїв на різних мовах програмування. DIAL більше підходить для корпоративного рівня — бізнес-рішень із використанням ШІ, які вимагають широкого спектру інтеграцій.

          Основні функції LOFT:

          • Агностичний фреймворк — інтегрується в будь-яку бекенд-систему, незалежно від HTTP-фреймворка.
          • Архітектура на основі черг — оптимізована для сценаріїв з високою пропускною здатністю.
          • Динамічні промпти — можна змінювати промпти перед відправленням до API LLM.
          • Підтримка проміжного програмного забезпечення — налаштування введення/виведення даних чату (наприклад, можна змінювати введені користувачем дані перед відправленням в API LLM).
          • Виявлення та обробка подій — розширені можливості для виявлення та обробки подій у чаті.
          • Обмеження частоти та горизонтальне масштабування — вбудовані можливості обмеження частоти запитів, які вдало працюють у горизонтально масштабованих середовищах.

          «LOFT — це наша відповідь на зростаючий попит щодо інтеграції ШІ в розмовні рішення. Першу версію LOFT ми продемонстрували на одній із найбільших конференцій розробників у Європі, яка цього року вперше відбулася в США — Shift Conference. З тих пір фреймворк вдосконалюється. І ми вже маємо декілька кейсів його практичного використання з боку клієнтів», — каже CEO Master of Code Global Дмитро Гриценко.

          Більше про це

          01 БІЗНЕС

          Майстерня чатботів. Як працює українська IT-компанія Master of Code Global

          Додати в закладки

          Будь-яку статтю можна зберегти в закладки на сайті, щоб прочитати її пізніше.

          Знайшли помилку? Виділіть її і натисніть Ctrl+Enter

          Партнерські матеріали

          Як побудувати компанію з акцентом на людях: досвід Overdone
          01 БІЗНЕС
          Як побудувати компанію з акцентом на людях: досвід Overdone
          Google запускає оновлений «Інтенсивний курс із машинного навчання» українською мовою
          02 ТЕХНОЛОГІЇ
          Google запускає оновлений «Інтенсивний курс із машинного навчання» українською мовою
          Міфи про IP-телефонію, у які досі вірить бізнес
          03 БІЗНЕС
          Міфи про IP-телефонію, у які досі вірить бізнес
          Батл традиційного та інноваційного маркетингу: хто кого?
          04 КРЕАТИВ
          Батл традиційного та інноваційного маркетингу: хто кого?
          Завантаження...