RAG жүйелері өндірістік ортада: нақты неден ақау шығады?

Retrieval-Augmented Generation генеративті ЖИ-ді кәсіпорын орталарына енгізудің ең тәжірибелік тәсілдерінің біріне айналды. Модельден тек оқыту кезінде үйренгеніне сүйенуді талап етудің орнына, жүйе ұйымның өз білім базасынан ақпарат алып, сол дәлелді жауаптың контексі ретінде ұсынады.

Прототип әдетте қарапайым. Құжаттар талданады, фрагменттерге бөлінеді, embedding жасалады, индекстеледі және пайдаланушы сұрақ қойғанда алынады. Қабілетті модель табылған үзінділерді жатық жауапқа айналдырады, көбіне дереккөз сілтемелерімен. Бақыланатын демонстрацияда нәтиже таңғаларлық жылдам өндіріске дайын болып көрінуі мүмкін.

Бірақ ол сирек солай болады.

Өндірістегі RAG-тың қиын тұсы — жауап құрастыру емес. Қиыны — жүйенің дұрыс ақпаратты сенімді дереккөзден, дұрыс рұқсатпен және дұрыс уақытта алғанын дәлелдеу — әрі жауапқа қарсылық білдірілгенде ұйымның не болғанын қалпына келтіре алуы.

Жалпы кәсіпорын білімі үшін бұл пайдаланушылардың платформаға сенетін-сенбейтінін шешеді. Мемлекет, қаржы қызметтері, денсаулық сақтау, өнеркәсіптік операциялар немесе сыни инфрақұрылым үшін ол қауіпсіздік, үздіксіздік және басқару талабына айналуы мүмкін.

Іздеу жүйесіндегі қателер көбіне модель қатесі болып көрінеді

RAG қолданбасы қате жауап бергенде әдетте алдымен тілдік модель кінәланады. Іс жүзінде ақау инференске дейін әлдеқашан орын алған болуы мүмкін.

Бірнеше рет қайта қаралған пайдалану нұсқаулығын алайық. Бақыланатын құжат айналымы жүйесінде ағымдағы нұсқа тұр, ал ескі көшірме жоба мұрағатында қалған, презентация бұрынғы нұсқаны қорытады, ал отырыс хаттамасында ұсынылған өзгеріс талқыланады. Семантикалық іздеу олардың барлығын орынды түрде өзекті деп санай алады.

Ескірген құжат сенімді құжаттан жоғары тұрса, күшті модель қате дәлелден өте сенімді жауап жасай алады.

Сондықтан өндірістік бағалау іздеу дұрыстығын, контекст дұрыстығын және генерация дұрыстығын ажыратуы тиіс. Платформа сенімді дереккөзді алды ма? Сол дереккөзді дұрыс түсіндіруге жеткілікті айналадағы ақпаратты сақтады ма? Қайшы немесе күші жойылған құжаттар танылды ма? Осы сұрақтарға жауап алынған соң ғана модельдің пайымын бағалаудың мәні болады.

Бір жиынтық «жауап сапасы» көрсеткіші тым көп нәрсені жасырады. Іздеу ақауы галлюцинациядан бөлек инженерлік шешім талап етеді, ал екеуі де ескірген дерек немесе рұқсат ақауынан өзгеше.

Салдары да маңызды. Ескірген асхана ережесін табу — қолайсыздық қана. Ал өнеркәсіптік ортаға арналған күші жойылған оқшаулау нұсқаулығын немесе ауыстырылған реттеу нұсқауын табу мүлде басқа тәуекел сыныбына жатады.

Ұйымның корпоративтік білімі өз архитектурасын қажет етеді

Нақты ұйымдық білім таза абзацтар түрінде келмейді.

Ол күрделі PDF файлдары, кестелер, электрондық кестелер, сканерленген құжаттар, инженерлік сызбалар, презентациялар, e-mail тізбектері, шарт қосымшалары және ЖИ іздеуіне арналмаған жүйелерден шыққан қайталанатын экспорттар түрінде келеді. Реттелетін орталарда ақпарат сонымен бірге иесін, бекіту күйін, сақтау талабын, құпиялылық деңгейін, юрисдикциясын және жарамдылық мерзімін көтеруі мүмкін.

Осының бәрін аты жоқ мәтін фрагменттеріне тегістеу түсіндіру үшін аса маңызды болуы мүмкін байланыстарды жояды.

Сондықтан өндірістік жүктеу архитектурасы embedding жасамас бұрын шыққан тегін сақтауы тиіс. Абзац өз бөлімімен, бөлім өз құжатымен, ал құжат өз нұсқасымен, дереккөзімен, иесімен және мәртебесімен байланысты қалуы керек. Табылған кесте жолы мәндеріне мағына беретін тақырыптарды сақтауы тиіс. Шарт бабы өзі жататын келісім мен нұсқаны сақтауы керек. Күші жойылған нұсқаулық тілі семантикалық жақын болғаны үшін ғана бекітілген ағымдағы нұсқамен тең дәрежеде бәсекелеспеуі тиіс.

Әмбебап дұрыс фрагмент өлшемінің болмауының себебі де осы. Тұрақты өлшемді фрагменттер — қолайлы техникалық бірлік, бірақ олар ұйымдық білімнің табиғи бірлігі бола бермейді. Құрылымдық талдау, иерархиялық іздеу, метадеректер, дереккөзді салмақтау және қайта саралау вектор дерекқорының 600 не 900 токендік блок алатынынан әлдеқайда маңыздырақ болуы мүмкін.

Нақты мақсат — жақсырақ embedding жасау емес. Мақсат — іздеу жүйесі ұқсастықпен қатар сенімділік туралы да пайымдай алатындай ақпарат архитектурасын жеткілікті деңгейде сақтау.

Қолжетімділік құқықтарын ескеретін іздеу — қауіпсіздік шекарасының бөлігі

RAG-тың ең ауыр ақауы әрдайым дәл емес жауап емес. Ол — негізгі ақпаратты мүлде ала алмауға тиіс пайдаланушыға берілген дәл жауап болуы мүмкін.

Бір ЖИ білім қабаты құжат айналымын, SharePoint-ты, жоба репозиторийлерін, CRM жүйелерін, тикет платформаларын, дерекқорлар мен операциялық жүйелерді қамтығанда бұл қиындай түседі. Әр дереккөздің құқық моделі басқа болуы мүмкін. Пайдаланушыға бір бизнес-бөлімшені көруге рұқсат етіліп, екіншісіне етілмеуі, бір жобаға рұқсат болып, екіншісіне болмауы немесе белгілі бір жіктеу деңгейіне дейінгі ақпаратқа ғана рұқсат болуы мүмкін.

Бұл шектеулерді модель жауабын жасағаннан кейін ғана қолдануға болмайды. Рұқсатсыз ақпарат модель контексіне кіріп кеткен болса, тиісті қауіпсіздік шекарасы әлдеқашан бұзылған.

Сондықтан сәйкестендіру мен авторизация іздеу жолының өзіне таралуы тиіс. Ортаға қарай бұл дереккөз ACL-дерін, рөлге не атрибутқа негізделген қатынауды бақылауды, жалдаушыларды оқшаулауды, қауіпсіздік жіктеулерін және қызметаралық сәйкестендіру деректерін қамтуы мүмкін. Құқықты сенімді анықтау мүмкін болмаса, іздеу ауқымын үнсіз кеңейтуден гөрі қауіпсіз тоқтау орындырақ.

Дәл сол алаңдаушылық дербес ақпаратқа да қатысты. Еуропалық RAG жүйесі дербес деректерді өңдесе, ақпараттың embedding-ке айналдырылуы немесе модельге уақытша берілуі деректерді қорғау міндеттемелерін өздігінен жоймайды. GDPR сәйкестендірілетін тұлғаларға қатысты ақпаратты өңдеуге қатысты болып қала береді, сондықтан тек негізгі қойманы ғана емес, бүкіл іздеу және инференс ағынын қарастыру керек.

Платформа айналасындағы қауіпсіздікті басқаруды ISO/IEC 27001 сияқты стандарттар арқылы құрылымдауға болады, ал ISO/IEC 42001 ЖИ әзірлейтін, ұсынатын немесе пайдаланатын ұйымдарға арналған менеджмент жүйесі шеңберін енгізеді. ISO/IEC 23894 мұны ЖИ-ге тән тәуекелді басқаруды ұйымдық процестерге енгізу нұсқаулығымен толықтырады. Бұл стандарттар жекелеген RAG жауабының дұрыстығын растамайды; олардың құндылығы — сол жауапты шығаратын жүйенің айналасында қайталанатын басқаруды құруда.

Алынған құжаттар — сенімсіз кіріс

RAG сонымен бірге дәстүрлі іздеу жүйелерінде дәл бұл түрде болмаған қауіпсіздік ерекшелігін тудырады: алынған мәтін оны тұтынатын қолданбаның мінез-құлқына әсер ете алады.

Зиянды құжатта модельді манипуляциялауға арналған нұсқаулар болуы мүмкін. Бұзылған веб-бет агентке алдыңғы ережелерді елемеуді, қосымша ақпарат ашуды немесе құрал шақыруды айта алады. Шабуылдаушыға зиянды нұсқауды чат интерфейсіне тікелей жазудың қажеті жоқ; ол ЖИ сенуге тиіс дереккөз арқылы жанама жетуі мүмкін.

Бұл промпт-инъекцияны жүйелік қауіпсіздіктің кеңірек мәселесіне айналдырады.

Дұрыс қорғаныс — жай ғана қатаңырақ жүйелік промпт емес. Архитектура алынған ақпарат дұшпандық болуы мүмкін деп есептеуі тиіс. Құрал өкілеттігі модельден тыс орындатылуы керек. Сезімтал операциялар детерминистік саясат бақылауларынан өтуі тиіс. Дереккөздің шығу тегі мен сенімділігі көрініп тұруы керек. Сенімсіз дереккөзден ақпарат алған агент мәтін солай деді екен деп кенеттен жаңа мүмкіндікке ие болмауы тиіс.

Принцип ескі, тек жаңа ортада айтылған: сенімсіз кіріс сенімді басқару логикасына айналмауы керек.

Білімнің өзектілігі ескірген ақпаратты өшіру мүмкіндігін де қамтиды

Көптеген топ жаңа ақпаратты қаншалықты жылдам жүктейтінін өлшейді. Өндірістік жүйелер ақпараттың қаншалықты сенімді түрде іздеуден шығатынын да көрсетуі тиіс.

Саясаттар ауыстырылады. Шарттардың мерзімі бітеді. Рұқсаттар қайтарып алынады. Қызметкерлер топ ауыстырады. Мемлекеттік құжат қайта жіктелуі мүмкін. Жазбалардың сақтау мерзімі аяқталуы мүмкін. Техникалық нұсқаулық оқиғадан кейін бірден кері қайтарылуы ықтимал.

Дереккөз жүйесі өзгеріп, іздеу индексі өзгеріссіз қалса, ЖИ платформасы ұйымдық шындықтың қатарлас әрі барған сайын дәлсіз нұсқасын жасай бастайды.

Сондықтан инженерлік міндет — үздіксіз синхрондау. Жаңартулар идемпотентті, құжат бірегейлігі тұрақты, жою сенімді және нұсқа ауысулары айқын болуы тиіс. Іздеу қабаты есеп жүйелерімен салыстырылатын болуы керек — сонда жетпей қалған жаңартулар индексте үнсіз қалмай, анықталады.

Қолайлы кідіріс салдарға байланысты. Маркетингтік құжат артықшылықты қатынау өзгерісінен немесе қауіпсіздік нұсқаулығынан басқа жаңалық мақсатына төзе алады. Сондықтан өндірістік RAG бір әмбебап индекстеу SLA-сы емес, сараланған жаңалық және кері қайтару талаптарын қажет етеді.

Тұрақтылық векторлық дерекқордың қолжетімділігімен шектелмейді

RAG қызметі сәйкестендіру провайдеріне, дереккөз репозиторийлеріне, құжат талдағыштарына, embedding инфрақұрылымына, вектор қоймасына, қайта саралауға, модель есептеуіне, саясат қызметтеріне және жүйені бақылау мен қадағалау мүмкіндігіне тәуелді болуы мүмкін. Қолданба серверлерін жоғары қолжетімді ету бұл тізбекті тұрақты етпейді.

Пайдалырақ архитектуралық сұрақ — осы болжамдардың бірі жоғалғанда не болатыны.

Таңдаулы модель қолжетімсіз болса, қабілеті төменірек модель қолайлы шектеулі қызметті ұстап тұра ала ма? Вектор іздеуі істен шықса, бекітілген лексикалық не гибрид іздеу жолы сенімді дәлел қайтара ала ма? Сәйкестендіру қызметі нашарласа, жүйе қатынауды кеңейтпей бар қауіпсіз сеанстарды сақтай ала ма? Индекстеу кешігіп қалса, қолданба ештеңе болмағандай жалғастырудың орнына операторларға білім күйінің ескіргенін хабарлай ма?

NIS2 аясындағы ұйымдар үшін мұндай ойлау Директиваның тәуекелді басқару талаптарына табиғи түрде сәйкес келеді: оқиғаларды өңдеу, бизнестің үздіксіздігі, апаттан қалпына келтіру, жеткізу тізбегінің қауіпсіздігі, қауіпсіз сатып алу және әзірлеу, осалдықтармен жұмыс, қатынауды бақылау және басқа техникалық әрі ұйымдық шаралар. Еуропалық шеңбер киберқауіпсіздікті осалдықтарды сканерлеу деп емес, барлық қатерді қамтитын, тәуекелге негізделген тәсіл ретінде айқын қарастырады.

Қызмет Сыни ұйымдардың тұрақтылығы шеңберіне кіретін ұйымды қолдайтын болса, талдау одан әрі кеңейеді. CER маңызды қызмет көрсететін ұйымдардың тұрақтылығын қарастырады және тек кибероқиғалармен шектелмей, іркілісті болдырмау, одан қорғану, оған жауап беру, төтеп беру, әсерін азайту және қалпына келу қабілетін қамтиды.

Бұл әр RAG қолданбасын сыни инфрақұрылым ретінде жобалау керек дегенді білдірмейді. Ол тұрақтылық моделі жүйе қолдайтын функцияның салдарына сай болуы тиіс дегенді білдіреді.

Бақылау құралдары жауаптың қалай құрылғанын толық көрсетуі тиіс

Сарапшы өндірістік жауапқа қарсылық білдіргенде «оны модель жасады» деу жеткілікті түсіндірме емес.

Инженерлік топ сұранысты қай пайдаланушы немесе қызмет жібергенін, ол сұраныстың іздеу үшін қалай түрлендірілгенін, қандай қолжетімділік және метадерек сүзгілері қолданылғанын, қандай дереккөздер жарамды болғанын, қандай үзінділер алынғанын, олардың қалай сараланғанын, модельдің қай конфигурациясы қолданылғанын және түпкі жауапты қандай дәлел қолдағанын қалпына келтіре алуы тиіс.

Жүйе әрекет ете алатын болса, із саясат шешімдері, құрал шақырулары, параметрлер және нәтижедегі сыртқы күй арқылы жалғасуы керек.

Бақыланушылықтың мұндай деңгейі ЖИ оқиғаларымен жұмыс тәсілін өзгертеді. Талдау ақауын саралау ақауынан ажыратуға болады. Ескірген білім модель пайымынан бөлінеді. Құқық қатесі галлюцинациядан айқын ерекшеленеді. Осы ақау сыныптары көрінген соң жақсарту кездейсоқ емес, жүйелі бола алады.

Бағалау да сол принципті ұстануы тиіс. Тест жиынтығында қалыпты сұрақтар, бұлыңғыр сұрақтар, күші жойылған ақпарат, қайшы дәлелдер, шектелген құжаттар және дұшпандық мазмұн болуы керек. Одан да маңыздысы — ақаулар салдары бойынша салмақталуы тиіс. Қауіпсіздікке немесе миссияға қатысты процесті қолдайтын жүйе жалпы орташа көрсеткіш жақсы көрінгені үшін қабылданбауы керек.

Өндірістік ортаға көшу талаптары

Сондықтан өндірістік RAG платформасы — вектор дерекқоры тіркелген чат-бот емес.

Ол — жүктеуді, іздеуді, сәйкестендіруді, авторизацияны, ақпаратты басқаруды, ЖИ тәуекелін басқаруды, жүйені бақылау мен қадағалау мүмкіндігін және операциялық тұрақтылықты қамтитын бақыланатын білімге қатынау архитектурасы. Тілдік модель маңызды компонент болып қала береді, бірақ ең маңызды ақаулардың көбі модель контекст алмай тұрып немесе жауап шығарғаннан кейін орын алады.

Демонстрация мен инфрақұрылым арасындағы шек ұйым «ол жұмыс істей ме?» дегеннен қиынырақ сұраққа жауап бере алғанда жетеді.

Ол мына сұрақтарға жауап бере алуы тиіс: бұл пайдаланушы осы ақпаратты дәлелдің осы нұсқасынан осы өкілеттік жолы арқылы неге алды; бұзылған дереккөздің басқару нұсқауына айналуына не кедергі; кері қайтарылған білім қаншалықты жылдам жоғалады; тәуелділіктердің бірі істен шыққанда қызмет қалай әрекет етеді; және оператор кейін толық шешімді қалай қалпына келтіре алады.

RAG жүйесін өндірісте сенімді ететін — осы.