Як Circles будує AI-native телеком: Concierge, CareX і персоналізація на OpenAI API

Telecom-запит легко перетинає billing, roaming, network state, plan eligibility, retention і account management. Circles побудувала AI Concierge на OpenAI API як conversational entry point, а CareX — як multi-agent layer для маршрутизації до спеціалізованих агентів. Практична цінність — не FAQ, а контекстний support і personalization, які можуть завершувати частину задач фактичним outcome.

Ключова межа: recommendation не дорівнює authority. Модель може запропонувати next-best action, але право змінити тариф, списати кошти чи модифікувати account перевіряє application policy plane.

Trigger — customer message, support event або contextual opportunity. Input — authenticated account context, usage/billing/network signals, product catalog, eligibility rules, conversation history і incident state. AI класифікує intent, збирає evidence, обирає specialist agent, формує відповідь або action request.

Integrations: CRM/customer profile, billing, product catalog, network/support systems, knowledge base і recommendation service. Кожен connector потребує scoped permissions, freshness marker і authoritative ownership.

• Trigger → customer intent/contextual event;
• Input → account + real-time signals + policy/knowledge;
• AI → intent, routing, retrieval, recommendation, action proposal;
• Output → resolved request, recommendation або escalation.

Production flow: `intent → identity/context → retrieval → specialist-agent plan → policy/eligibility check → tool action → authoritative postcondition → response/escalation`. Low-risk read/reversible actions можуть бути autonomous; consequential writes потребують stronger identity, deterministic limits або approval.

Failures: wrong-customer context, stale eligibility, duplicate write після timeout, conflicting agents, hallucinated product rule, prompt injection і response до tool confirmation. Controls: identity binding, allowlisted tools, risk-tier authority, idempotency, reconciliation, provenance, schemas, budgets, escalation і replayable audit trace.

OpenAI 3 серпня 2026 року повідомляє 22% ARPU uplift у Singapore для AI-personalized group, 9% churn reduction і 65% autonomous support resolution. Circles 30 квітня окремо заявляла 85% global queries resolved without human intervention. Це різні dates/scopes, тому вони не перетворюються на одну «канонічну» цифру.

Workload високочастотний і latency-sensitive. KPI: intent-level verified completion, first-contact resolution, wrong-action rate, escalation quality, repeat contact, p95 latency і cost per verified resolution. Cost = model/API + retrieval + orchestration + connectors + observability/evals + human escalations + incident reserve.

Потрібні authenticated customer context, stable systems of record, product/policy ownership, tool scopes, eval corpus, escalation і reconciliation. Патерн підходить telco, utilities, subscription і fintech support із великим volume повторюваних intents.

Почніть з 3–5 low-impact intents: balance explanation, roaming guidance, order status, troubleshooting. Запустіть read-only, потім reversible actions, а bounded writes — лише після canary з stale-data, identity mismatch, duplicate event, partial failure і malicious-content slices.

Offline evaluation має бути case-based, а не побудованою навколо середньої «якості відповіді». Мінімальний набір slices: correct account binding, retrieval correctness, policy/eligibility, stale-context detection, tool timeout/partial failure, duplicate event, adversarial merchant або knowledge text, no-answer і escalation. Для кожного кейсу зберігайте expected evidence, дозволений authority tier, очікуваний tool sequence та authoritative end state. Deterministic graders перевіряють identity, schema, idempotency і final system state; model або human graders оцінюють relevance, explanation quality та якість handoff. Окремий high-severity gate має блокувати release після будь-якого unsafe write, навіть якщо aggregate satisfaction виглядає прекрасно.

Rollout краще вести як `historical replay → shadow on live intents → read-only assistant → reversible low-risk actions → bounded writes`. На кожному етапі потрібні promotion criteria: verified completion вище baseline, no critical wrong-action events, bounded p95 latency/cost, acceptable escalation quality і відтворюваний rollback. Якщо нова model version, retrieval policy або connector schema змінює поведінку, critical suite запускається повторно. Rollback повинен уміти вимкнути write-capabilities окремо від knowledge/support layer, щоб не перетворювати кожен інцидент у повне відключення сервісу.

• Release gate → zero high-severity unsafe writes у critical slice;
• Canary → невелика частка live intents із порівнянням проти baseline;
• Rollback → scoped disable write tools + restore previous policy/model envelope;
• Incident → minimized reproduction і permanent regression test.