Mahalliy AI Agentlarda Ishonchni Oshirish: OATs Arxitekturasi

Hozir AI yordamida dasturlash yangi bosqichga kirdi. Mahalliy modellarda, masalan FunctionGemma va Qwen, kod yozish, tool chaqirish va ishni avtomatik bajarish imkoniyati paydo bo‘ldi. Lekin bu avtomatlashtirish bilan birga yangi muammo ham chiqdi: agent ishini bajarayotganida, biz uni qanday kuzatib boramiz va nazorat qilamiz?

Avtomatik Ishning Xavfi

Tasavvur qiling: siz agentdan kodni qayta tashkil qilishni so‘radingiz. Tunni uxlab o‘tdingiz. Ertalab ko‘rsangiz, agent yuzlab tool chaqirgan, ma’lumotlar bazasini o‘zgartirgan, API va frontendni qayta yozgan. Lekin savol tug‘iladi: nima uchun bu o‘zgarishlar qilingan, qaysi qismlar o‘zgargan va xavfsizmi?

Ba’zi dasturchilar mahalliy agent bilan ishlaganda muammoga duch kelishgan. Masalan, ma’lumotlar bazasidagi jadvallar birdan yo‘qolgan. Sababi noma’lum, hech qanday ogohlantirish yo‘q. Bu avtomatik agentning xavfli tomoni.

OATs Protokoli: Tartib va Xavfsizlik

OATs (Open Agent Tools) protokoli bu muammoni hal qilish uchunnas. U agent va tool o‘rtasidagi muloqotni bir xil tartibga soladi. Har bir jamoa o‘zining alohida tizimini yaratib yurmasdan, OATs yagona arxitekturani ishlatadi.

Asosiy fikr oddiy: tasdiqlangan tool’larni bitta JSON faylga yig‘ib qo‘ysangiz, agent faqat siz ruxsat bergan tool’larni chaqiradi.

Aqlli Taqsimlash

OATs arxitekturasi ishni katta va kichik modellar o‘rtasida bo‘lib beradi:

• Katta model (masalan Qwen 35B) sizning so‘rovingizni tahlil qiladi va qaysi tool kerakligini aniqlaydi
• Keyin ishni kichikroq, samarali modelga topshiradi (masalan FunctionGemma)
• Har bir tool chaqiruvi log qilinadi va keyinchalik tekshirilishi mumkin

Bu usul nafaqat samarali, balki xavfsiz ham. Kichik modellarning ish doirasi cheklangan. So‘ngra kichik modellarni faqat ruxsatlangan tool’larga q beshlarish.

141 ming Tool — Amaliy Fikr

OATs da 141 mingdan ortiq tool ro‘yxati mavjud. Bu ko‘p tuyulishi ko‘nchali, lekin siz bu ro‘yxatni butunlay o‘tkazib olmaysiz. Siz o‘zingizning JSON faylingizda kerakli tool’larni tanlab o‘tkazib, qo‘shib qo‘yasiz.

Yangi tool qo‘shish misoli:

{
  "superhappy": {
    "description": "Read from Open WebUI knowledge collection",
    "implementation": "/local/path/to/read_knowledge.py",
    "permissions": ["read_only"],
    "approved_by": "security_team"
  }
}

Fayl saqlangandan so‘ng, agent faqat siz tasdiqlagan tool’larni ishlatabilir.

Xavfsiz Avtomatik Ishning Uch Asosi

1. Kuzatish va Loglar

Har bir tool chaqiruvi loglanadi. Loglar real vaqtda yoziladi va qiyin bo‘lmaydi. OATs Mattermost bilan bog‘lanib, agentning ishini real vaqtda xaritalayotganim.

2. Inson Nazorati

141 ming tool ro‘yxati faqat boshlang‘ich. Siz va jamoangiz har bir tool’ni inson tomonidan nazorat qiladi. Xavfsiz bo‘lsa, ruxsat beradi. Muammoli bo‘lsa, ruxsatni o‘chiradi. Bu jarayon kod o‘zgartirishsiz va modelni qayta o‘qitishsiz sodir bo‘ladi.

3. Tarqatilgan, Lekin Nazoratli

Kichik modellarni laptop GPU bilan ishlatish mumkin. Har isotning modellari alohida joyda ishlatir, o‘zining doirasi va ruxsatlariga biroq toxirish. Bu “kamroq ruxsat” tamoyilini AI agent arxitekturasida qo‘yadi.

Amaliy Natija

OATs ni ishlatuvchi jamoalar avtomatik agentdan qo‘rqishdan, ishga ishonch hosil qilishga o‘tdi. 200+ tool chaqiruvining loglari saqlanadi, kodni va agentning sababini nazorat qiladi. Muammoni ko‘rsangiz, ruxsatni o‘chirish instant.

Sizning Tizimingizga Ta’siri

Mahalliy modellarni ishlatadigan dasturchilar uchun OATs inson va agent o‘rtasida ishonchni yaratadi. OATs bu ishonchni qo‘mondonlik va nazorat orqali qo‘yadi.

OATs GitHubda open-source versiya bo‘lib, qiyyotkeni veb-xosting va CI/CD tizimlari bilan ham birga ishlatilishi o‘nglab.

Kelajak: Aqlli Avtomatlashtirish

OATs protokoli AI agentlarning avtomatik ishini xavfsiz qilish o‘nglab. Tool chaqiruvlari transparent, ruxsatlar explicit va qiyyotkeni reviewable. Bu ishonch bilan avtomatik ishini qo‘yadi.