ISO/IEC 27090:2026 — ხელოვნური ინტელექტის სისტემების კიბერუსაფრთხოების ახალი საერთაშორისო სტანდარტი

1. რა არის ISO/IEC 27090?

ISO/IEC 27090:2026 ხელოვნური ინტელექტის (AI) სისტემების დაცვის საერთაშორისო სახელმძღვანელო სტანდარტია. პირველი გამოცემა გამოქვეყნდა 2026 წლის 14 ოქტომბერს; პასუხისმგებელი კომიტეტია ISO/IEC JTC 1/SC 27. ოფიციალური სახელწოდებაა Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. იგი განკუთვნილია ნებისმიერი ზომის ორგანიზაციისთვის, რომელიც AI-ს ქმნის ან იყენებს, მათ შორის საჯარო უწყებებისა და გარე მოდელების კომერციული მომხმარებლებისთვის.

AI-ის უსაფრთხოება გულისხმობს თავად სისტემისა და მისი დამოკიდებულებების კონფიდენციალურობის, მთლიანობისა და ხელმისაწვდომობის დაცვას. ეს განსხვავდება AI-ის კიბერშეტევების გამოსავლენად გამოყენებისგან. მოდელი შეიძლება ხელმისაწვდომი დარჩეს, მაგრამ თავდამსხმელის გავლენით არასწორი გადაწყვეტილებები მიიღოს: ტექნიკური მუშაობა სანდო ქცევის მტკიცებულება არ არის. ISO-ს გამოქვეყნებული მიმოხილვა ყურადღებას ამახვილებს მონაცემებისა და მოდელების საფრთხეებზე, შედეგებზე, აღმოჩენასა და შემცირებაზე მთელი სასიცოცხლო ციკლის განმავლობაში.

სტატიის ფარგლები: გამოყენებულია ოფიციალური საჯარო ინფორმაცია და არა ლიცენზირებული ტექსტის პუნქტობრივი ანალიზი. ISO-ს განმარტებითი გზამკვლევი ჯერ კიდევ საბოლოო პროექტს აღწერს; ქვემოთ მისი თემები შესაბამისი შენიშვნითაა გამოყოფილი. კონკრეტული კონტროლები, გამოგონილი მაგალითები და სამოქმედო გეგმა დამოუკიდებელი საინჟინრო რეკომენდაციებია და არა ISO-ს მოთხოვნების ციტირება. სტანდარტი არ არის საქართველოს სავალდებულო რეგულაცია, დამოუკიდებლად სერტიფიცირებადი მართვის სისტემა ან უსაფრთხოების გარანტია.

• ISO — გამოქვეყნებული სტანდარტი
• IEC — გამოცემა და გამოქვეყნების თარიღი

2. რატომ სჭირდება ტრადიციულ კონტროლებს AI-ზე მორგება

ქსელური დაცვა, განახლებები და იდენტობის მართვა აუცილებელი რჩება. თუმცა მათი არსებობა თავისთავად არ ადასტურებს სასწავლო მონაცემების სანდოობას, მოდელის წონების უცვლელობას ან გადაწყვეტილების მანიპულაციისგან დაცვას. დამატებითი სწავლება და განახლებები ცვლის ქცევას; გარე პროვაიდერმა კომპონენტი შესაძლოა თქვენი გამოშვების გრაფიკისგან დამოუკიდებლად შეცვალოს. პრომპტები, მოძიებული კონტექსტი და აგენტის ინსტრუმენტები დაბალი სანდოობის შინაარსს პრივილეგირებულ ოპერაციებთან აკავშირებს.

მაგალითად, მხარდაჭერის ასისტენტმა შეიძლება მოძებნოს მავნედ შეცვლილი ცოდნის ბაზის სტატია და მისი მითითება ანგარიშის ინფორმაციის გამჟღავნების უფლებამოსილებად ჩათვალოს. სერვერზე შეღწევა ამისთვის აუცილებელი არ არის. მოძიებით გამდიდრებული გენერაცია (Retrieval-Augmented Generation, RAG) მოდელს პასუხის მომზადებისას დოკუმენტებს აწვდის; იგი მათ სანდო ინსტრუქციებად არ აქცევს. დაცვის დიზაინმა უნდა აჩვენოს, როგორ გადაიქცევა ინფორმაცია მოქმედებად და არა მხოლოდ როგორ აღწევს ტრაფიკი სერვისამდე.

• OWASP — პრომპტში ინსტრუქციების ინექცია

3. რომელი აქტივებია დასაცავი?

აქტივების რეესტრმა ინფორმაცია, კომპონენტები და პასუხისმგებელი პირები ბიზნესზე შესაძლო გავლენას უნდა დაუკავშიროს. მოდელის ფაილი მთელ სისტემას არ წარმოადგენს. ქვემოთ მოცემული მაგალითები პრაქტიკული არჩევანია: შეარჩიეთ და შეამოწმეთ ისინი რეალური არქიტექტურის მიხედვით; ცხრილი ISO-ს მიერ დადგენილი კონტროლების სავალდებულო კატალოგი არ არის.

4. AI-სპეციფიკური საფრთხეები: მექანიზმი, აღმოჩენა და რეაგირება

წყაროების გამიჯვნა: ISO-ს გამოქვეყნებული მიმოხილვა პირდაპირ ახსენებს მონაცემთა მოწამვლასა და მოდელის ქურდობას. პროექტზე დაფუძნებული განმარტებითი გზამკვლევი დამატებით ასახელებს მოდელის პირდაპირ მოწამვლას, თავის არიდებას, სასწავლო ნაკრებში წევრობის დადგენას, მოდელის ინვერსიას, პრომპტში ინექციასა და სენსიტიურ პასუხებს; იგი მიწოდების ჯაჭვის უსაფრთხოებასაც განიხილავს. ეს საბოლოო პუნქტების ფორმულირების დადასტურება არ არის. ქვემოთ მოცემული თავდაცვითი სცენარები ჩვენი მაგალითებია; აგენტის ინსტრუმენტების ბოროტად გამოყენება დამატებით OWASP-ს ეყრდნობა.

• ISO გზამკვლევი — საბოლოო პროექტზე დაფუძნებული
• NIST — მანქანური სწავლების შეტევების ტერმინოლოგია
• OWASP — აპლიკაციების რისკები

4.1. მონაცემთა მოწამვლა

თავდამსხმელი ცვლის სასწავლო მაგალითებს ან ნიშნულებს, რათა სწავლამ საზიანო ქცევა წარმოქმნას. შესასვლელი ხშირად მონაცემთა მიღების არხი ან ხელახალი სწავლების უკუკავშირია. გამოგონილ მაგალითში თაღლითობის მოდელი საეჭვო გადარიცხვებს მისაღებად სწავლობს, რადგან შეცვლილი უკუკავშირი მათ კანონიერად მონიშნავს. შეადარეთ წყაროების წვლილი და ნიშნულების განაწილება; გამოიკვლიეთ მიზნობრივი გაუარესება და არა მხოლოდ საერთო სიზუსტე. ახალი მონაცემები გააცალკევეთ, გადაამოწმეთ წარმომავლობა და დამტკიცება, შეინარჩუნეთ სუფთა სატესტო ნაკრები. სტატისტიკამ შეიძლება ფარული, მიზნობრივი მანიპულაცია ვერ აღმოაჩინოს.

4.2. მოდელის მოწამვლა

წონების, ადაპტერების ან სწავლების პროცესის მავნე ცვლილება მიზნობრივ ქცევას ამატებს, მაშინაც კი, როცა ჩვეულებრივი შემოწმებები წარმატებულია. ჩანაცვლებულმა დამატებითი სწავლების ადაპტერმა შეიძლება ერთი კატეგორიის მომხმარებლებისთვის რეკომენდაციები დაამახინჯოს. გადაამოწმეთ არტეფაქტის ხელმოწერა სანდო წარმომავლობასთან ერთად, რეესტრის ცვლილებები და მგრძნობიარე სცენარები ცნობილ საწყის ვერსიასთან შედარებით. გამიჯნეთ სწავლება, რეესტრის ადმინისტრირება და გაშვების დამტკიცება. სწორი ჰეში ადასტურებს კონკრეტულ ფაილთან თანხვედრას და არა მისი შემქმნელის ან ქცევის სანდოობას.

4.3. პრომპტში ინსტრუქციების ინექცია

არასანდო ტექსტი ცდილობს ინსტრუქციის ნდობის საზღვრის გადაკვეთას და მოდელის ქცევის შეცვლას. მოძიებულ ინვოისში მოთავსებულმა მითითებამ შეიძლება ასისტენტს სხვა მომხმარებელთა ნაშთების გამჟღავნება მოსთხოვოს. შეამოწმეთ ინსტრუმენტის შეთავაზებული მოქმედებები და მოულოდნელი მიმღებები; დაუკავშირეთ ისინი მოძიებულ წყაროებს. მხოლოდ საკვანძო სიტყვების ფილტრი არასაკმარისია. მოძიებული მასალა მონაცემად განიხილეთ, შეზღუდეთ მოქმედებები და ავტორიზაცია მოდელის გარეთ აღასრულეთ. RAG და დამატებითი სწავლება ინექციას თავისთავად არ გამორიცხავს; დაბლოკილი პასუხიც წყაროს გამოძიების საფუძველია.

4.4. შეცვლილი მაგალითები და დაცვისთვის თავის არიდება

მიზნობრივად შეცვლილმა შეყვანამ შეიძლება მოდელი არასწორ კლასიფიკაციამდე მიიყვანოს წონების შეცვლის გარეშე. მაგალითად, დოკუმენტების კლასიფიკატორმა შეცვლილი განაცხადი არასწორ პროცესში გადაამისამართოს. შეამოწმეთ მდგრადობა რეალისტურ ვარიაციებზე და დამოუკიდებელ შემოწმებებთან უთანხმოება. გამოიყენეთ შეზღუდული წინასწარი დამუშავება, მოწინააღმდეგის მოქმედების იმიტაცია და გაურკვეველი, მნიშვნელოვანი გადაწყვეტილებების ესკალაცია. მონაცემთა ბუნებრივი ცვლილებაც შეიძლება შეტევას ჰგავდეს, ამიტომ განზრახვის დასადგენად კონტექსტი გამოიკვლიეთ. ერთ ნაკრებზე მიღებული შედეგი ყველა მომავალი მანიპულაციისადმი მდგრადობას არ ადასტურებს.

4.5. მოდელის ამოღება და ქურდობა

არტეფაქტის ქურდობა შენახული მოდელის ფაილის კოპირებაა; მოთხოვნებზე დაფუძნებული ამოღება პასუხების დაკვირვებით ღირებული ფუნქციონალის მიახლოებას ცდილობს. ფასის მოდელზე სისტემატურმა მოთხოვნებმა შეიძლება შემცვლელი მომსახურების შექმნა გააადვილოს. აკონტროლეთ მოთხოვნების მრავალფეროვნება, უჩვეულო მოცულობა და არტეფაქტების ჩამოტვირთვა; შეაჯერეთ იდენტობის, დანახარჯისა და გამავალი მონაცემების სიგნალები. შეზღუდეთ რეესტრზე წვდომა და კვოტები, გამოიტანეთ მხოლოდ საჭირო დეტალი. სიხშირის შეზღუდვა შესაძლებლობას ამცირებს, თუმცა განაწილებულ შეტევას ყოველთვის ვერ ავლენს და კანონიერ მომხმარებელსაც შეიძლება შეუშალოს ხელი.

4.6. მოდელის ინვერსია

ინვერსია მოდელთან წვდომით სასწავლო მონაცემებთან დაკავშირებული მახასიათებლების ან ჩანაწერების შესახებ ინფორმაციის მიღებას ცდილობს. ეს ზუსტი სასწავლო მაგალითების გარანტირებულ აღდგენას არ ნიშნავს. ჯანმრთელობასთან დაკავშირებულმა მოდელმა ზედმეტად ინფორმაციული პასუხებით მგრძნობიარე ჯგუფური მახასიათებლები შეიძლება გამოავლინოს. შეაფასეთ კონფიდენციალურობა თავდამსხმელის რეალისტური წვდომის პირობებში და პასუხის ზედმეტი დეტალიზაცია. შეამცირეთ სენსიტიური სასწავლო მონაცემები, შეზღუდეთ გამომავალი ინფორმაცია და საჭიროებისას შეაფასეთ კონფიდენციალურობის დამცავი სწავლება. აღმოჩენა რთულია: რამდენიმე ჩვეულებრივი მოთხოვნაც შეიძლება ინფორმაციული იყოს.

4.7. სასწავლო ნაკრებში ჩანაწერის არსებობის დადგენა

თავდამსხმელი ცდილობს დაადგინოს, მონაწილეობდა თუ არა კონკრეტული ჩანაწერი სწავლებაში და არა მისი შინაარსის აღდგენას. მხოლოდ იმის გამჟღავნებაც, რომ პირი სპეციალიზებულ კლინიკურ ნაკრებში იყო, კონფიდენციალურობას აზიანებს. უფლებამოსილი ტესტით შეადარეთ მოდელის ქცევა სასწავლო და ცალკე გამოყოფილ ჩანაწერებზე. შეამცირეთ გადაჭარბებული მორგება და პასუხის არასაჭირო დეტალიზაცია; დიფერენციალური კონფიდენციალურობა შეაფასეთ სარგებლიანობისა და კონფიდენციალურობის ბიუჯეტთან ერთად. ტესტის შედეგი ალბათური მტკიცებულებაა და არა ჩანაწერის არსებობის დასტური ან უნივერსალური გარანტია.

4.8. სენსიტიური ინფორმაციის გამჟღავნება

კონფიდენციალური ინფორმაცია შეიძლება პასუხით, კონტექსტით, ჟურნალით ან ინტეგრაციით გავრცელდეს, სასწავლო მონაცემებზე შეტევის გარეშეც. მომხმარებელთა გარემოების გამიჯვნის შეცდომამ პასუხში სხვა კლიენტის ხელშეკრულება შეიძლება ჩასვას. ხელოვნური ჩანაწერებით გამოცადეთ წვდომის საზღვრები; აკონტროლეთ უჩვეულო ძიება და გამავალი ინფორმაციის მიმღებები. დოკუმენტის ავტორიზაცია მოძიებამდე შეამოწმეთ, მოაშორეთ არასაჭირო მონაცემები და დაიცავით ჟურნალები. პასუხის ფილტრი დამატებითი ფენაა, მაგრამ ზედმეტად ფართო საწყის წვდომას ვერ ასწორებს. საწარმოო საიდუმლოებები პრომპტში არ შეინახოთ.

4.9. AI-ის მიწოდების ჯაჭვის კომპრომეტაცია

გარე მონაცემთა ნაკრებმა, მოდელის პაკეტმა, ბიბლიოთეკამ, დანამატმა ან პროვაიდერმა შეიძლება მავნე ქცევა შემოიტანოს. სანდოდ წარმოდგენილი განახლება შესაძლოა ჩატვირთვის სახიფათო კოდს ან მოულოდნელ ქსელურ წვდომას შეიცავდეს. შეამოწმეთ წარმომავლობა, დამოკიდებულებების ცვლილება და გაშვებისას კავშირები; განახლება დანერგვამდე იზოლირებულად გამოცადეთ. დააფიქსირეთ დამტკიცებული ვერსიები, გადაამოწმეთ არტეფაქტები და მომწოდებლის პასუხისმგებლობა. რეპუტაცია ან მოწყვლადობის სკანირება საკმარისი არ არის. კრიტიკული კომპონენტის ცვლილების ან გაუქმებისთვის გამოცდილი ალტერნატივა იქონიეთ.

4.10. აგენტისა და ინსტრუმენტების ბოროტად გამოყენება — დამატებითი სცენარი

აგენტმა მანიპულირებული მსჯელობა შეიძლება ტექნიკურად ავტორიზებულ API მოთხოვნად აქციოს, რომელსაც ბიზნესის ნებადართული მიზანი არ აქვს. ბილინგის ასისტენტმა შეუზღუდავი ჩაწერის უფლებით თანხის დაბრუნების მიმღები შეიძლება შეცვალოს. აღრიცხეთ შეთავაზებული და შესრულებული ინსტრუმენტის არგუმენტები და შეადარეთ დამტკიცებულ დავალებას. გამოიყენეთ ვიწრო ფუნქციები, მიმღებ სისტემაში პოლიტიკის შემოწმება და მნიშვნელოვანი მოქმედების ადამიანური ავტორიზაცია. აკონტროლეთ ოპერაციების უჩვეულო თანმიმდევრობაც. გამოუყენებელი ინსტრუმენტების მოცილება თავდამსხმელის მიერ გამოწვევადი მოქმედებების რაოდენობას ამცირებს.

5. უსაფრთხოება AI-ის სასიცოცხლო ციკლში

გაშვების დამტკიცება შეფასების ერთ-ერთი საკონტროლო წერტილია და არა მისი დასასრული. შეინარჩუნეთ მიკვლევადი კავშირი მონაცემთა ვერსიებს, მოდელის არტეფაქტებს, შეფასების შედეგებსა და რეალურად დანერგილ კონფიგურაციას შორის. ქვემოთ მოცემული ექვსი ეტაპი საინჟინრო სამუშაოს ორგანიზებას ემსახურება და სტანდარტის თავების სტრუქტურის გამეორებად არ უნდა ჩაითვალოს.

• დაგეგმვა: განსაზღვრეთ დასაშვები გადაწყვეტილებები, ბოროტად გამოყენების შემთხვევები, მფლობელები და მიუღებელი ბიზნესშედეგები.
• მონაცემების მიღება: გადაამოწმეთ წარმომავლობა და გამოყენების უფლება; ცვლილებები გააცალკევეთ, სწავლება და შეფასება გამიჯნეთ.
• შემუშავება: გამოყავით ექსპერიმენტები, დაიცავით საიდუმლოებები და უზრუნველყავით დამტკიცებული აწყობისა და მოდელის ვერსიის გამეორება.
• ტესტირება: მკაფიო მისაღები ზღვრებით შეაფასეთ მოწინააღმდეგის გავლენა, კონფიდენციალურობა და აღდგენის შესაძლებლობა.
• დანერგვა: შეზღუდეთ ინტერფეისები და ინსტრუმენტები, დაამტკიცეთ გამოშვება და წვდომის გახსნამდე გადაამოწმეთ მონიტორინგი.
• ოპერირება და გაუქმება: შეამოწმეთ უკუკავშირი, ხელახალი სწავლება ცვლილებათა კონტროლს დაუქვემდებარეთ, გამოცადეთ რეაგირება; გაუქმებისას გააუქმეთ უფლებები, გასაღებები და არასაჭირო მონაცემები.

6. ტექნიკური და ორგანიზაციული დაცვის ზომები

მმართველობა: დანიშნეთ მომსახურების პასუხისმგებელი მფლობელი და აწარმოეთ AI რეესტრი, მისაღები გამოყენების პოლიტიკა და საფრთხეების მოდელი. შესყიდვის პროცესში ინტეგრაციამდე შეთანხმდეს პროვაიდერის ცვლილებების შეტყობინება, მონაცემთა შენახვის პირობები და ინციდენტისას თანამშრომლობა.

მონაცემები და მოდელები: აკონტროლეთ მონაცემთა მიღება და რეესტრში ჩაწერა, შეამოწმეთ ნაკრების ხარისხი და შეინარჩუნეთ ვერსიათა წარმომავლობის კავშირი. ხელმოწერილი არტეფაქტი და დაცული საცავი მთლიანობის დადგენაში გეხმარებათ, თუმცა დამტკიცებული მოდელის ქცევით ტესტს ვერ ცვლის.

აპლიკაციები: დაადასტურეთ API გამომძახებლის ვინაობა და რესურსზე ავტორიზაცია, გამოყავით საიდუმლოებები და გენერირებული პასუხი სხვა შემსრულებელ გარემოში გადაცემამდე შეამოწმეთ. მოძებნეთ მხოლოდ ნებადართული დოკუმენტები. ინსტრუმენტის ფუნქციები და მიმღებები ტექნიკურად შეზღუდეთ; უფლებების აღსრულებას მხოლოდ მოდელს ნუ მიანდობთ.

მონიტორინგი: დააკავშირეთ მოდელის ვერსია, მოძიებული წყაროების იდენტიფიკატორები, ინსტრუმენტების გამოძახება და საბოლოო შედეგი. გამოავლინეთ უჩვეულო მოთხოვნები, ექსპორტი და ქცევის ცვლილება. განსაზღვრეთ ესკალაცია და შეამცირეთ ჟურნალში პერსონალური მონაცემები; მონიტორინგი მეორე უკონტროლო მონაცემთა ნაკრებად არ უნდა იქცეს.

ტესტირება: გააერთიანეთ AI-ზე მორგებული მოწინააღმდეგის იმიტაცია, შეცვლილი შეყვანები, პრომპტში ინექციისა და გაჟონვის სცენარები, მდგრადობის გაზომვა და განახლების შემდგომი რეგრესია. ანგარიშში ასახეთ შედეგები, დაფარვა, ცრუ განგაშები და დარჩენილი გაურკვევლობა. არცერთი ზომა ყველა საფრთხეს არ აღმოფხვრის; შეაფასეთ კონტროლების ერთობლივი ქცევა და გავლენა კანონიერ მომხმარებელზეც.

7. გენერაციული AI და დაკავშირებული აგენტები

დიდი ენობრივი მოდელი (Large Language Model, LLM) ტექსტს პროგნოზირებს ან ქმნის; მისი პასუხი ავტორიზაციის გადაწყვეტილება არ არის. RAG მონაცემებზე წვდომას ამატებს, აგენტი კი ინსტრუმენტის შესრულებასა და განმეორებით დაგეგმვას. მხოლოდ პასუხის მომზადებას სხვა რისკი აქვს, ვიდრე მომხმარებელთა ბაზის კითხვას, ბილინგის ცვლილებას ან გარე პროცესის დაწყებას.

ფინანსურ და ოპერაციულ გადაწყვეტილებებში რეკომენდაცია შესრულებისგან გამოყავით. გამოიყენეთ ძლიერი ავთენტიფიკაცია და ადამიანის დამტკიცება, რომელიც ზუსტ მოქმედებასა და პარამეტრებს უკავშირდება; საჭიროებისას გამიჯნეთ მოვალეობები. ტრანზაქციის ლიმიტი, შეზღუდული გასაღები და საგანგებო გამორთვა განსაზღვრული წესებით მომუშავე სერვისში აღასრულეთ. დამტკიცება არასანდო პრომპტის გარეთ შეინარჩუნეთ; მომხმარებლის მოთხოვნასა და თითოეულ მოქმედებას შორის აუდიტირებადი კავშირი შექმენით. ეს საინჟინრო რჩევებია და არა ISO/IEC 27090-ის კონკრეტული პუნქტების მოთხოვნები.

• OWASP — აგენტის ჭარბი უფლებამოსილება

8. ორგანიზაციები და პროფესიული როლები

ბანკინგსა და FinTech-ში შესაფასებელია საგადახდო რჩევები, თაღლითობის გადაწყვეტილებები და მომხმარებლის მონაცემთა საზღვრები. ჯანდაცვაში — სენსიტიური ჩანაწერები და კლინიკური გადაწყვეტილების მხარდაჭერა. ენერგეტიკასა და კრიტიკულ ინფრასტრუქტურაში AI რეკომენდაცია სახიფათო ოპერაციული ბრძანებისგან უნდა გაიმიჯნოს. ტელეკომუნიკაციებში ყურადღებას საჭიროებს ქსელის ავტომატიზაცია და აბონენტის მონაცემებზე წვდომა.

საჯარო სექტორმა უნდა გაითვალისწინოს მოქალაქის მონაცემთა კონფიდენციალურობა და ავტომატიზებული გადაწყვეტილების შედეგები. ტექნოლოგიურმა და პროგრამული მომსახურების პროვაიდერებმა უნდა გამოცადონ მომხმარებელთა გამიჯვნა და მოდელებზე დამოკიდებულება. საკუთარი AI-ის შემქმნელი სწავლებასა და არტეფაქტებს აკონტროლებს; გარე AI-ის შემსყიდველს მაინც ეკისრება ინტეგრაციის, წვდომისა და ბიზნესგამოყენების რისკი. ეს რისკის მაგალითებია და არა ახალი სექტორული სამართლებრივი ვალდებულებები.

CISO და უსაფრთხოების გუნდი დაცვის კოორდინაციას ახორციელებს; AI/ML ინჟინერი მოდელის ქცევას ამოწმებს; დეველოპერი და არქიტექტორი აპლიკაციის საზღვრებს აღასრულებს. მონაცემთა მმართველობა წარმომავლობასა და ნებადართულ გამოყენებას მართავს. რისკის მენეჯერი ნარჩენ ზემოქმედებას აფასებს, შიდა აუდიტორი მტკიცებულებას ამოწმებს, შესყიდვები პროვაიდერის დამოკიდებულებებს განიხილავს. ხელმძღვანელობა წყვეტს, მისაღებია თუ არა დარჩენილი რისკი კონკრეტული ბიზნესსაქმიანობისთვის.

9. როგორ ავსებს ჩარჩოები ერთმანეთს

მართვის სისტემები გამოიყენეთ პასუხისმგებლობის, პოლიტიკის, გადახედვისა და გაუმჯობესების დასადგენად; ტექნიკური საფრთხეების სახელმძღვანელო — სისტემის დიზაინის კრიტიკული შეფასებისთვის. ISO/IEC 27090 ავსებს ISO/IEC 27001-სა და ISO/IEC 42001-ს და არცერთს არ ცვლის. იგი დამოუკიდებელ ახალ სერტიფიცირების სქემას არ ადგენს. მართვის სისტემის სერტიფიკატი არ ადასტურებს, რომ კონკრეტული AI აპლიკაცია ყველა შეტევას გაუძლებს.

• ISO/IEC 27001
• ISO/IEC 27002
• ISO/IEC 42001
• ISO/IEC 23894
• NIST AI RMF

10. პრაქტიკული ათსაფეხურიანი გეგმა

შემოთავაზებული თანმიმდევრობა რისკზე დაფუძნებულ მიდგომას პასუხისმგებლობიან სამუშაოდ აქცევს. იგი სტანდარტის მიზანს ეხმიანება და ISO-ს სავალდებულო პროცედურა არ არის. მტკიცებულების სიღრმე შესაძლო შედეგებს შეუსაბამეთ: საჯარო ტექსტის შემაჯამებელსა და ფინანსური ჩანაწერის შემცვლელ აგენტს დამტკიცების იდენტური ზღვარი არ უნდა ჰქონდეს.

11. აუდიტისა და შეფასების საკითხები

კონტროლის დიზაინი და პრაქტიკული მუშაობა ცალ-ცალკე შეაფასეთ. პოლიტიკა შეიძლება ინსტრუმენტის შეზღუდვას ითხოვდეს, მაშინ როცა მომსახურების ანგარიშს ბაზაზე ფართო წვდომა აქვს. შეარჩიეთ რეალური გამოშვებები და რისკის გზა არქიტექტურიდან კონფიგურაციამდე, ტესტამდე და ინციდენტის დამუშავებამდე გაიარეთ. წინასწარ შეთანხმდეს კრიტერიუმები და პერიოდი; კითხვები ISO სერტიფიცირების სავალდებულო სია არ არის.

მტკიცებულება მოიცავს AI რეესტრს, რისკის შეფასებას, საფრთხეების მოდელს, არქიტექტურას, წარმომავლობის ჩანაწერს, წვდომის კონფიგურაციას, ტესტის ანგარიშს, მონიტორინგს, რეაგირების პროცედურასა და მომწოდებლის დასტურს. მხოლოდ სერტიფიკატი ან ეკრანის სურათი არ მიიღოთ: გადაამოწმეთ აქტუალურობა და ფარგლები. აღრიცხეთ გამონაკლისები, მფლობელები, ვადები და ნარჩენი რისკის მიღების საფუძველი.

• სრულია AI რეესტრი და დოკუმენტირებულია კიბერუსაფრთხოების რისკები?
• გადამოწმებულია მონაცემისა და მოდელის წყარო და დაცულია არტეფაქტი უნებართვო ცვლილებისგან?
• შეზღუდულია აპლიკაციის უფლებები და შეფასებულია ინექციისა და გაჟონვის სცენარები?
• ტარდება უსაფრთხოების ტესტი და ინციდენტების მონიტორინგი და ესკალაცია?
• შეფასებულია მესამე მხარის დამოკიდებულება და მნიშვნელოვანი ცვლილება განხილვას ექვემდებარება?

12. გამოგონილი მაგალითი: კომუნალური კომპანიის ბილინგის ასისტენტი

გამოგონილი კომუნალური კომპანია ასისტენტს ინვოისის ასახსნელად და შესწორების მოთხოვნის მოსამზადებლად იყენებს. იგი კითხულობს ავთენტიფიცირებული მომხმარებლის ანგარიშსა და დამტკიცებულ სატარიფო დოკუმენტებს. მომხმარებლის შეტყობინება, ატვირთული ინვოისი და მოძიებული ტექსტი არასანდოა; მოდელის პროვაიდერი მონაცემთა დამუშავების კიდევ ერთი საზღვარია. ასისტენტს ბაზის ან გადახდის შეუზღუდავი წვდომა არ უნდა გადაეცეს.

მავნე დანართმა შეიძლება სხვა მომხმარებელთა ნაშთების ექსპორტი ან თანხის სხვა ანგარიშზე დაბრუნება მოითხოვოს. მხოლოდ წაკითხვის ძიება შესწორების შეთავაზებისგან გამოყავით. სერვერი ყველა ძიებას ავთენტიფიცირებულ მომხმარებელს უკავშირებს და შესრულებამდე უფლებამოსილ თანამშრომელს ზუსტ თანხას, ანგარიშსა და მიზეზს ამტკიცებინებს. შეცვლილი წინადადება ძველ დამტკიცებას აუქმებს; მოთხოვნის გამეორება ერთსა და იმავე ტრანზაქციას ხელახლა ვერ ასრულებს.

გაშვებამდე ხელოვნურ ანგარიშებზე გამოცადეთ მომხმარებელთა შორის წვდომა, მავნე მოძიებული ტექსტი, ინსტრუმენტის მოულოდნელი პარამეტრები, დუბლირებული ოპერაცია და დამტკიცების გვერდის ავლა. აღრიცხეთ დაბლოკილი მოქმედებები და დარჩენილი ხარვეზები. მუშაობისას შეადარეთ დამტკიცება ფინანსურ ჩანაწერს, შეზღუდეთ ტრანზაქციის ზემოქმედება, გამოავლინეთ უჩვეულო ექსპორტი და უზრუნველყავით ინსტრუმენტის საგანგებო გამორთვა. შეინახეთ აუცილებელი მტკიცებულება ზედმეტი პერსონალური მონაცემის გარეშე. ეს ამცირებს რისკს, მაგრამ აგენტის მანიპულაციისგან სრულ დაცვას არ ნიშნავს.

13. გავრცელებული შეცდომები

მხოლოდ აპლიკაციის შემოწმება გამოტოვებს დაზიანებულ სასწავლო მონაცემებს, კომპრომეტირებულ არტეფაქტებსა და ხელახალი სწავლების უკუკავშირს. მოძიებული დოკუმენტის ინსტრუქციად აღქმა ან აგენტისთვის ფართო ჩაწერის უფლების მინიჭება შინაარსის მანიპულაციას ოპერაციულ ზიანად აქცევს. ქცევის მონიტორინგის უგულებელყოფა მიზნობრივ პრობლემას უხილავს ტოვებს, მაშინაც კი, როცა ხელმისაწვდომობის მაჩვენებელი ნორმაშია.

ღრუბლოვანი პროვაიდერი კლიენტის ინტეგრაციის ყველა რისკს არ მართავს. შეუფასებელი გარე მოდელი, განახლების განხილვის არქონა და ერთ წარმატებულ ტესტზე დაყრდნობა დასკვნას აძველებს. AI მმართველობის სერტიფიცირების ტექნიკურ დაცვასთან გაიგივება დარჩენილ სისუსტეებს ფარავს. განსაზღვრეთ პროვაიდერის, აპლიკაციის გუნდისა და ბიზნესმფლობელის კონტროლები, შემდეგ გადაამოწმეთ, მუშაობს თუ არა მათ შორის პასუხისმგებლობის გადაცემა.

14. დასკვნები

ISO/IEC 27090 AI-ის კიბერუსაფრთხოების განხილვის მიზნობრივ საწყის საფუძველს ქმნის. ეფექტიანი დაცვა მონაცემებს, მოდელებს, ინტეგრაციებსა და ოპერაციებს ბიზნესშედეგებთან აკავშირებს. ტრადიციული კიბერუსაფრთხოება საფუძვლად რჩება; AI-სპეციფიკური შეფასება ამატებს ნასწავლი ქცევის, არასანდო კონტექსტისა და დელეგირებული მოქმედებების საკითხებს. შეინარჩუნეთ აქტუალური მტკიცებულება, გამოცადეთ მნიშვნელოვანი ცვლილება და აკონტროლეთ ნარჩენი რისკი. უსაფრთხოება უწყვეტი საინჟინრო და მმართველობითი პასუხისმგებლობაა და არა სტანდარტის ერთხელ მიღებით შეძენილი თვისება.

როგორ შეუძლია IO Consulting-ს თქვენი ორგანიზაციის მხარდაჭერა?

AI სისტემების უსაფრთხო გამოყენება მოითხოვს ტექნოლოგიური რისკების, ინფორმაციული უსაფრთხოების კონტროლებისა და მესამე მხარეებთან დაკავშირებული დამოკიდებულებების სისტემურ შეფასებას. IO Consulting ეხმარება ორგანიზაციებს კიბერუსაფრთხოების რისკების შეფასებაში, IT მმართველობისა და უსაფრთხოების კონტროლების გაუმჯობესებაში და შესაბამისი საერთაშორისო სტანდარტების პრაქტიკულ გამოყენებაში.

• IT აუდიტი და მმართველობა
• ინფორმაციული უსაფრთხოების მართვა