AI demo হলো prompt আর response।

Production AI feature হলো trust boundary।

Data পড়ে, suggestion দেয়, tool call করতে পারে, user-কে affect করে, cost হয়, আর deterministic code-এর চেয়ে আলাদাভাবে fail করে।

Engineering তাই বদলায়।

Feature কী করে—আর কী করে না

“AI assistant” broad।

Bounded capability:

• selected conversation থেকে reply draft;
• approved category-তে request classify;
• এক document type থেকে named field extract;
• human review-এর জন্য report summarize;
• execute না করে next action suggest।

Limitation visible করুন।

Probabilistic output-কে guaranteed accuracy হিসেবে market করবেন না।

UI যেন system-এর চেয়ে বেশি authority imply না করে।

Retrieved text untrusted

Document, webpage, email আর user message-এ model-এর জন্য instruction থাকতে পারে।

এটাই prompt injection।

Retrieval text-কে trusted policy বানায় না।

আলাদা করি:

• system policy;
• developer instruction;
• user intent;
• retrieved evidence;
• tool result।

Application decide করে কোন tool আছে, argument কী allowed।

Document নিজেকে permission দিতে পারে না।

Data minimize আর scope

Retrieval/generation-এর আগে:

• actor/tenant verify;
• server-side record filter;
• unnecessary field remove;
• document ownership;
• time range/count limit;
• secret/hidden metadata avoid;
• used source ID record।

Task complete করার smallest context।

Large context automatically better না।

Tool public API-এর মতো constrain

Model email পাঠালে, record update, refund বা query করলে—প্রতি tool protected server entry point।

Call-এ:

• schema validation;
• authorization;
• business rule;
• rate limit;
• idempotency;
• safe error;
• audit event;
• bounded output।

Model valid JSON দিয়েছে বলে trust না।

Valid shape valid permission না।

Output use-এর আগে validate

Structured output:

• schema parse;
• unknown/impossible value reject;
• length enforce;
• identifier normalize;
• referenced record verify;
• display escape/sanitize;
• executable context থেকে generated text দূরে।

Factual summary-তে underlying record link রাখুন।

Verify করা যায় না—এমন decorative citation না।

Human control ঠিক জায়গায়

High-impact action automatic language-এর পেছনে লুকাবে না।

Review-তে:

• original source;
• generated proposal;
• uncertainty/missing data;
• edit;
• approve;
• reject;
• দরকার হলে reason।

Reviewer decision own করে—বুঝতে হবে।

Reject painful হলে human control ceremonial।

Failure normal state

Expect:

• timeout;
• rate limit;
• outage;
• malformed output;
• safety refusal;
• large context;
• stale retrieval;
• partial tool completion;
• duplicate retry।

UI বলবে:

• কী হয়েছে;
• কিছু change হয়েছে কি না;
• retry safe কি না;
• manual continuation কী।

Silent model/prompt switch behavior বদলায়। Version আর observe করুন।

সব collect না করে log

Audit record-এ লাগতে পারে:

• feature version;
• model/prompt version;
• actor/tenant ID;
• source record ID;
• tool name;
• outcome;
• approval;
• error code;
• request trace।

Full private prompt বা raw document সবসময় দরকার না।

Retention-এর purpose আর owner দরকার।

এক answer না, workflow evaluate

Offline example useful।

Production-এ:

• completion rate;
• human edit distance;
• rejection;
• harmful/invalid output;
• latency;
• cost;
• fallback use;
• user outcome;
• language/user group difference।

এক impressive response quality evidence না।

Rollout reversible

ব্যবহার করুন:

• feature flag;
• limited cohort;
• usage cap;
• approval requirement;
• model/prompt version;
• kill switch;
• manual fallback;
• rollback note।

First release learning cheap, failure contained রাখবে।

আমার standard

AI feature ready যখন:

• capability narrow ও honest;
• data tenant-safe;
• retrieved content untrusted;
• tool permission enforce;
• output validated;
• high-impact decision human control;
• failure recoverable;
• behavior observable;
• rollout stop করা যায়।

এটাই responsible AI-এর engineering layer।

AI workflow-এ দরকার কি না—দেখুন AI automation checklist। Tenant data-এর জন্য secure multi-tenant foundation।

Demo থেকে production-এ গেলে data source, action আর worst credible error পাঠান।