امنیت، معماری و استقرار Caren Enterprise AI؛ برای مدیر فناوری و تیم IT

معماری؛ دو جزء اصلی

• برنامه اصلی کلید و آدرس سرویس AI را برای هر شعبه رمزنگاری‌شده نگه می‌دارد و فقط از سمت سرور با آن صحبت می‌کند.
• پاسخ‌های طولانی با SSE، توکن‌به‌توکن نمایش داده می‌شوند.
• سرویس AI به پایگاه داده برنامه فقط‌خواندنی دسترسی دارد.
• بیش از ۲۰۰ تست خودکار.

مدل اعتماد: سامانه محاسبه می‌کند، AI روایت می‌کند

هر قابلیت تحلیلی ابتدا داده را با قواعد دسترسی کاربر محاسبه می‌کند و فقط نتیجه محاسبه‌شده را به‌صورت JSON برای روایت به مدل می‌دهد. ابزارهای Function Calling با هویت و دسترسی همان کاربر اجرا می‌شوند و ۸ ابزار حساس فقط برای نقش‌های مدیریتی است. اگر بخش روایی شکست بخورد، داده‌های محاسبه‌شده همچنان نمایش داده می‌شوند.

خروجی مدل هم بدون بررسی پذیرفته نمی‌شود: با schema دقیق گرفته و در سامانه اعتبارسنجی و نرمال‌سازی می‌شود، و شناسه‌ها باید در فهرست ارسالی باشند.

کنترل دسترسی دولایه

• سیاست‌های اکشن (Policy): هر نقش چه کارهایی می‌تواند بکند.
• فیلتر خودکار سطرها: جداسازی شعبه و سطح دید رکورد بر اساس نقش.
• نقش‌ها: مدیرعامل، مدیر واحد، کارمند، کارشناس اداری، مدیر منابع انسانی و مصاحبه‌گر.
• انسان در حلقه: ۵ نوع اقدام نوشتنی AI فقط با تأیید کاربر و با لاگ ممیزی اجرا می‌شود.
• ناشناس‌سازی نظرات در ارزیابی ۳۶۰.

خط لوله RAG؛ پاسخ از اسناد با ارجاع

1. ورود سند: PDF، Word، متن و تصویر؛ صفحه با کمتر از ۲۰ کاراکتر متن، اسکن تشخیص داده می‌شود و به OCR می‌رود.
2. تکه‌بندی: ۹۰۰ کاراکتر با ۱۵۰ کاراکتر همپوشانی، با شکست در مرز خط و کلمه.
3. Embedding محلی: multilingual-e5-large با ۱۰۲۴ بعد روی CPU و داخل سرور خود سازمان، در هر دو حالت.
4. نمایه: PostgreSQL و pgvector با ایندکس HNSW و فاصله کسینوسی.
5. بازیابی: ۶ تکه مرتبط‌تر، قابل محدود کردن به اسناد مشخص برای هر دستیار.
6. تولید: پاسخ فقط از منابع، با شماره منبع؛ وگرنه «در اسناد یافت نشد».

پرسش ایمن از پایگاه داده

• لایه معنایی: شمای پایگاه داده تا ۹۰ جدول و توضیح فارسی ۱۹ جدول کلیدی.
• گارد چندلایه با sqlglot: دقیقاً یک دستور، فقط SELECT، رد هر Insert، Update، Delete، Drop، Alter، Create و Pragma.
• بازتولید SQL از درخت نحوی و افزودن خودکار LIMIT 200.
• اتصال فقط‌خواندنی به پایگاه داده برنامه.
• شفافیت: SQL اجراشده به کاربر نمایش داده می‌شود.
• پشتیبانی از PostgreSQL، MySQL، SQL Server و SQLite سازمان.

استخراج ساختاریافته از صدا، رزومه و سند

1. ورودی: گفتار به متن، OCR یا متن.
2. پرامپت با schema دقیق JSON و فهرست مقادیر مجاز.
3. تولید و تجزیه مقاوم JSON.
4. نرمال‌سازی در سامانه: موبایل، مبالغ و مقادیر مجاز.
5. ضدتکرار با موبایل موجود.
6. ساخت رکورد با رعایت دسترسی و ثبت مصرف.

روتر مدل و تحمل خطا

• LiteLLM به‌عنوان درگاه واحد مدل‌ها.
• مدل جایگزین در حالت ابری و تلاش مجدد خودکار؛ در استریم، جایگزینی فقط اگر مدل اول پیش از اولین توکن شکست بخورد.
• حالت محلی: جایگزینی ابری غیرفعال است تا داده از سازمان خارج نشود.
• دمای پایین برای دقت: ۰٫۲ تا ۰٫۳ برای تحلیل و ۰ برای OCR.

ابری یا کاملاً محلی

حاکمیت و هزینه هوش مصنوعی

• هر تماس با مدل با قابلیت، مدل، کاربر و تعداد توکن ثبت می‌شود.
• گزارش توکن ورودی و خروجی، تفکیک به قابلیت و مدل و لاگ ریز هر تماس.
• برای هر شعبه: ارائه‌دهنده، مدل، حداکثر توکن، دما، پرامپت سیستمی و کلید خاموش.
• کلیدها رمزنگاری‌شده‌اند و هرگز به مرورگر برنمی‌گردند.

داده عمومی جدا از داده محرمانه

چت‌بات سایت، ریزسایت و پاسخ‌های کانال‌ها فقط از داده عمومی استفاده می‌کنند: فعال، غیرپنهان و غیرمحرمانه. شماره مالک و یادداشت داخلی هرگز بیرون نمی‌رود و محدودیت نرخ درخواست و honeypot ضداسپم هم فعال است. درگاه یکپارچگی با امضای HMAC-SHA256، لاگ رویدادها و محدودیت نرخ کار می‌کند.