Headless AIGateway

1 · Embed Module 2 — LLM Gateway

▼

Generate vector embeddings (default text-embedding-3-large, 3072 dims).

Texts (one per line) headless ai gateway smoke test second sentence to embed Run Embed

—

2 · Complete Module 2 — LLM Gateway

▼

Generic completion với purpose-key routing. Default ba.completion.v2 → OpenAI gpt-5.4.

Purpose Key

Provider override

Model override

User prompt Trong 2 câu, AIGateway giải quyết vấn đề gì? Run Complete

—

3 · Stream Module 2 — LLM Gateway

▼

Streaming completion via SSE. Chunks render live.

Prompt Đếm từ 1 đến 10, mỗi số một dòng. Run Stream

—

4 · BAAssistant Module 1 — AI Runtime

▼

Business-analyst single turn (Vietnamese system prompt).

User prompt Tóm tắt 3 lợi ích của việc tách AIGateway thành service riêng. Run BA

—

5 · LayoutAssistant Module 1 — AI Runtime

▼

Suggest a JSON layout for a schema (temperature=0.2, JSON-only).

Schema ID

Context JSON {"fields":["FullName","Email","Phone","Address","DateOfBirth"]} Run Layout

—

6 · SchemaAssistant Module 1 — AI Runtime

▼

Translate description → JSON schema (collections + fields + relationships).

Description Hệ thống quản lý đơn hàng đơn giản: khách hàng, sản phẩm, đơn hàng có nhiều dòng đặt hàng. Run Schema

—

7 · CodingAssistant Module 1 — AI Runtime

▼

Multi-turn agent với tool calling. M3 = chat-only (NoOpToolGateway). Live SSE events.

User prompt Liệt kê 3 best-practice khi đặt tên collection MongoDB cho hệ thống multi-tenant. Run Coding Session

—

8 · VisionPreprocessor Module 1 — AI Runtime

▼

Upload ảnh; OCR + describe (model: gpt-4o-mini).

Instruction (optional) Run Vision

—

9 · Memory · Ingest Module 3 — Memory Gateway

▼

In-memory store (M3); naive substring scoring. Phase 2 swaps sang Mongo Vector.

Collection

Document ID

Content Headless AIGateway is a tenant-aware AI service split from the main Application. Ingest

—

10 · Memory · Search Module 3 — Memory Gateway

▼

Search trong per-tenant in-memory bucket.

Collection

Top K

Query Search

—

11 · STT — Transcribe Module 2 — LLM Gateway

▼

Upload audio → text. Default model: whisper-1. Chỉ OpenAI hỗ trợ STT.

Audio file (mp3, wav, m4a, webm, ogg…)

Language (optional)

Model override (optional)

Transcribe

—

12 · TTS — Synthesize Speech Module 2 — LLM Gateway

▼

Text → audio. Default model: gpt-4o-mini-tts. Chỉ OpenAI hỗ trợ TTS.

Text input Xin chào! Đây là bài kiểm tra tổng hợp giọng nói từ AIGateway.

Voice alloy ash coral echo fable nova onyx shimmer verse

Format mp3 opus aac flac wav

Model override (optional)

Speed: 1.0× Synthesize

—