AI ჩატბოტი არასწორად პასუხობს? მიზეზი და როგორ შევამციროთ

კლიენტი გიგზავნით მიმოწერას: თქვენი საიტის ასისტენტმა უთხრა, რომ დაბრუნება სამოცი დღის განმავლობაში უფასოა, თქვენი წესით კი ვადა ოცდაათი დღეა. ან კოლეგა ციტირებს ხელშეკრულების პუნქტს, რომელიც შიდა ასისტენტმა “იპოვა”, ხელშეკრულებაში კი ამ პუნქტს ვერავინ პოულობს. ორივე შემთხვევაში AI ჩატბოტი არასწორ პასუხს თავდაჯერებულად იძლევა. მოკლედ: ასეთი შეცდომების სრულად გამორთვა შეუძლებელია, მაგრამ, როგორც წესი, შეგიძლიათ გაარკვიოთ, რა სახის შეცდომაა, და თავდაჯერებული არასწორი პასუხები გახადოთ იშვიათი, შესამჩნევი და ადამიანისთვის გადაცემული.

ჩვეულებრივ რეაქცია ასეთია: ადანაშაულებენ მოდელს, ინსტრუქციებში ამატებენ “არაფერი მოიგონო” ან ასისტენტს თიშავენ. ხშირად მიზეზი უფრო მარტივია: ასისტენტს ჰკითხეს ის, რაზეც მის მასალებში პასუხი არ არის, მან არასწორი გვერდი წაიკითხა, ან არავინ უთხრა, რომ “არ ვიცი” მისაღები პასუხია. თითოეული მიზეზი ტოვებს კვალს, რომლის შემოწმებაც თავად შეგიძლიათ.

რატომ აძლევს AI ჩატბოტი არასწორ პასუხებს?

ენობრივი მოდელი წერს ყველაზე დამაჯერებელ მომდევნო სიტყვებს. როცა საჭირო ფაქტი მის თვალწინაა, დამაჯერებელი პასუხი, როგორც წესი, სწორიცაა. როცა ფაქტი არ აქვს, მაინც წერს რაღაც გამართულს, და NIST ამას კონფაბულაციას უწოდებს: “თავდაჯერებულად გადმოცემული, მაგრამ მცდარი ან ყალბი შინაარსი”, სასაუბრო ენაზე ჰალუცინაციები.

OpenAI-ის მკვლევრები ხსნიან ამ თავდაჯერებულობას: სტანდარტული გაწვრთნა და შეფასება “აჯილდოებს გამოცნობას გაურკვევლობის აღიარების ნაცვლად”. კომპანიის დახმარების ცენტრი დასძენს, რომ “თავდაჯერებულობა სანდოობას არ ნიშნავს”: გამართული და დარწმუნებული პასუხიც შეიძლება არასწორი იყოს. ბიზნეს ასისტენტში ეს ზოგადი ჩვევა რამდენიმე კონკრეტული ხარვეზით ვლინდება.

პასუხი მის მასალებში არ არის. კლიენტი გეკითხებათ მომსახურებაზე, რომელსაც აღარ სთავაზობთ, ქვეყანაზე, სადაც არასდროს მიგიწოდებიათ, ან ფასდაკლებაზე, რომელიც არსად ჩაწერილა. დოკუმენტებზე დაფუძნებული ასისტენტების კვლევა, რომელიც ბარნეტმა და კოლეგებმა ჩაატარეს, ამას პირველ წარუმატებლობის წერტილად ასახელებს: კითხვა, “რომელზეც არსებული დოკუმენტებით პასუხის გაცემა შეუძლებელია”. ასისტენტი ზოგადი ცოდნით ცდილობს გამოცნობას და ასე ჩნდება დამაჯერებელი, მაგრამ გამოგონილი დაბრუნების ვადა.

მან არასწორი გვერდი იპოვა. ასისტენტი ჯერ თქვენს დოკუმენტებში ეძებს და ნაპოვნით პასუხობს, ამიტომ თუ შარშანდელი ფასების სია, წესების პროექტი და მოქმედი წესები ერთ საქაღალდეშია, მას ნებისმიერის ციტირება შეუძლია. Microsoft-ის სახელმძღვანელო პასუხების წყაროებთან შედარების შესახებ იმავე წერტილიდან იწყება: თავად წყაროები უნდა იყოს “ზუსტი და განახლებული”. ამ მიზეზს მაშინ ამოიცნობთ, როცა არასწორი პასუხი სადღაც თქვენს ფაილებში სიმართლე აღმოჩნდება, ოღონდ მოძველებული.

წესი მხოლოდ ვიღაცის თავშია. თქვენმა გუნდმა იცის, რომ გარკვეულ თანხაზე მეტის დაბრუნებას მენეჯერი ადასტურებს, ან რომ დეკემბერში მიწოდების ვადებს არ ჰპირდებით. თუ ასისტენტის წასაკითხ არც ერთ დოკუმენტში ეს წესი არ არის, ის ხარვეზს საკუთარი, გონივრულად მჟღერი წესით ავსებს.

კითხვა მის საქმეს სცდება. ასისტენტს, რომელიც სამუშაო საათებსა და ჯავშნებზე პასუხისთვისაა მორგებული, იურიდიულ, სამედიცინო ან ფასების რჩევას თხოვენ. უარის თქმის ინსტრუქციის გარეშე ის დახმარებას ცდილობს.

არაფერი აძლევს უფლებას თქვას “არ ვიცი”. ინსტრუქციები, როგორიცაა “ყოველთვის დაეხმარე კლიენტს”, შეიძლება მოდელს პასუხისკენ უბიძგებდეს, მაშინაც კი, როცა საპასუხო მასალა არ აქვს. Anthropic-ის დოკუმენტაციაში წერია, რომ მოდელისთვის გაურკვევლობის აღიარების პირდაპირ ნებართვას “შეუძლია მკვეთრად შეამციროს ცრუ ინფორმაცია”.

ეს ხარვეზები კითხვიდან პასუხამდე ერთ გზაზე დევს, და პასუხი პირველსავე ნაბიჯზე ფუჭდება, რომელიც ვერ შესრულდა.

ვინ აგებს პასუხს იმაზე, რასაც ასისტენტი ამბობს?

ერთ ცნობილ საქმეში პასუხი ბიზნესმა აგო. საქმეში Moffatt v. Air Canada (2024) ავიაკომპანიის ჩატბოტმა კლიენტს უთხრა, რომ ახლობლის გარდაცვალებასთან დაკავშირებული შეღავათიანი ტარიფის გაფორმება უკუძალით შეიძლებოდა, თუმცა ავიაკომპანიის წესები ამას არ უშვებდა. ბრიტანეთის კოლუმბიის ტრიბუნალმა დაადგინა: “სულერთია, ინფორმაცია სტატიკური გვერდიდან მოდის თუ ჩატბოტიდან”. მან მიიჩნია, რომ ავიაკომპანიამ “არ გამოიჩინა გონივრული სიფრთხილე, რათა მისი ჩატბოტი ზუსტი ყოფილიყო”, და კლიენტს 812,02 კანადური დოლარი მიაკუთვნა.

იგივე პრინციპი ვრცელდება ასისტენტებზე, რომლებსაც თქვენი თანამშრომლები იყენებენ. საქმეში Mata v. Avianca (2023) აშშ-ის სასამართლომ ორ იურისტსა და მათ ფირმას სოლიდარულად 5000 დოლარის ჯარიმა დააკისრა, მას შემდეგ რაც მათ სასამართლოს ChatGPT-ის მიერ გამოგონილი სასამართლო გადაწყვეტილებები წარუდგინეს და შეკითხვის შემდეგაც მათ ემხრობოდნენ. სასამართლომ აღნიშნა, რომ სანდო AI ინსტრუმენტის გამოყენებაში “თავისთავად არაფერია არასათანადო”, მაგრამ დოკუმენტის წარმდგენს სიზუსტეზე “მეკარის როლი” რჩება. როცა ვინმე შიდა ასისტენტის არასწორ პასუხს კლიენტს უგზავნის, კლიენტი მას, სავარაუდოდ, თქვენი კომპანიის პასუხად აღიქვამს.

როგორ გაიგოთ, რომელია თქვენი მიზეზი

იმის გასარკვევად, რატომ იძლევა AI ჩატბოტი არასწორ პასუხებს, შეაგროვეთ რეალური კითხვების ნაკრები და თითოეული პასუხი შეადარეთ იმას, რაც ზუსტად იცით. ფასიანი ინსტრუმენტები საჭირო არ არის: მხოლოდ ასისტენტი, თქვენი დოკუმენტები და მისი საუბრების ისტორიაზე წვდომა. ერთად აღებული არასწორი პასუხები გაჩვენებთ, რომელი ხარვეზი დახუროთ პირველად.

1. ჩაიწერეთ რეალური კითხვები. აიღეთ ისინი ბოლოდროინდელი ჩატებიდან, წერილებიდან და ზარებიდან, კლიენტების საკუთარი სიტყვებით. დაამატეთ კითხვები, რომლებზეც თქვენი დოკუმენტები პასუხს არ იძლევა, და რამდენიმე კითხვა, რომელიც ასისტენტის საქმეს სცდება.
2. თითოეულის გვერდით ჩაწერეთ სწორი პასუხი. კითხვებისთვის, რომლებზეც თქვენს მასალებში პასუხი არ არის, სწორი პასუხია “არ ვიცი, ახლავე კოლეგას გადაგაბარებთ”.
3. დაუსვით ასისტენტს ყველა კითხვა, შემდეგ ზოგიერთი სხვა სიტყვებით გაიმეორეთ. თუ პასუხში ფაქტები გაშვებიდან გაშვებამდე იცვლება, ასისტენტი მათ, სავარაუდოდ, გამოიცნობს.
4. ყოველი არასწორი პასუხისთვის ნახეთ, რას დაეყრდნო. ცოდნის ბაზის ბევრ ასისტენტს შეუძლია წყარო ფრაგმენტის ჩვენება ან იმის ჩაწერა, რომელი დოკუმენტები იპოვა; შეამოწმეთ, შეუძლია თუ არა ეს თქვენსას. აღნიშნეთ, წყარო არ ჰქონდა, წყარო ძველი ან ურთიერთგამომრიცხავი იყო, თუ წყარო სწორი იყო, მაგრამ არასწორად წაიკითხა.
5. დაალაგეთ არასწორი პასუხები მიზეზების მიხედვით. დოკუმენტი არ არის, არასწორი ან მოძველებული დოკუმენტი, ჩაუწერელი წესი, საქმის მიღმა კითხვა, ან შემთხვევა, რომელსაც ისედაც ადამიანი სჭირდებოდა. დაიწყეთ ყველაზე დიდი ჯგუფით.

შეინახეთ ეს ნაკრები და ყოველი ცვლილების შემდეგ გაუშვით. ბარნეტის ნაშრომში აღნიშნულია, რომ ასეთი სისტემის ვალიდაცია “მხოლოდ ექსპლუატაციის დროსაა შესაძლებელი”, ამიტომ დაამატეთ ახალი კითხვები, რომლებსაც ადამიანები გაშვების შემდეგ სვამენ.

როგორ შევაჩეროთ AI ასისტენტის გამოგონებები?

დაიწყეთ ყველაზე იაფი გამოსწორებებით: მიეცით ასისტენტს უფლება თქვას “არ ვიცი” და საუბარი ადამიანს გადასცეს, აიძულეთ მხოლოდ თქვენი დოკუმენტებით უპასუხოს ხილული წყაროთი და ეს დოკუმენტები განახლებული შეინახეთ. შემდეგ მოდის წესების ჩაწერა, საქმის შევიწროება, AI-ად მონიშვნა და რეგულარული ხელახალი შემოწმება. ყოველი ცვლილების შემდეგ გაუშვით კითხვების ნაკრები, რომ დაინახოთ, რომელმა უშველა.

1. მიეცით უფლება თქვას “არ ვიცი” და საუბარი გადასცეს. შეცვალეთ ინსტრუქციები ისე, რომ როცა დოკუმენტებში პასუხი არ არის, ასისტენტმა ეს პირდაპირ თქვას და საუბარი ადამიანს გადასცეს, კლიენტის კითხვითა და საკონტაქტო მონაცემებით. OpenAI-ის მკვლევრები იმავეს მეორე მხრიდან ამბობენ: მოდელებს “შეუძლიათ თავი შეიკავონ პასუხისგან, როცა დარწმუნებული არ არიან”. გადაცემა მხოლოდ მაშინ შველის, თუ მას ვინმე იღებს; სად უნდა ხვდებოდეს ასეთი გადაცემები, ვწერთ სტატიაში იმაზე, უნდა უპასუხოს თუ არა AI ჩატბოტმა თქვენს კლიენტებს.

2. აიძულეთ მხოლოდ თქვენი დოკუმენტებით უპასუხოს და წყარო აჩვენოს. ამ სქემას ხშირად ძიებით გაძლიერებულ გენერაციას, ანუ RAG-ს უწოდებენ: ასისტენტი ჯერ თქვენს მასალებში ეძებს, შემდეგ კი ნაპოვნი ფრაგმენტებით პასუხობს. Anthropic გირჩევთ, მოდელი შეზღუდოთ “მოწოდებული დოკუმენტების ინფორმაციით და არა საკუთარი ზოგადი ცოდნით”. ყოველი პასუხის ქვეშ ხილული წყარო კლიენტებსა და თანამშრომლებს შემოწმების საშუალებას აძლევს, თქვენ კი ხედავთ, რომელმა გვერდმა გამოიწვია შეცდომა. ჩვენს AI დანერგვის პროექტებში ცოდნის ბაზის ასისტენტი წყაროს ბმულით პასუხობს, ასე რომ არასწორი პასუხი შეიძლება მის უკან მდგარ გვერდამდე მიიკვლიოთ. შეცდომები მაშინაც მოსალოდნელია: სტენფორდის მკვლევრებმა, რომლებიც იურიდიული კვლევისთვის განკუთვნილ AI ინსტრუმენტებს ამოწმებდნენ, დაადგინეს, რომ “RAG სისტემებიც კი არ არის ჰალუცინაციებისგან თავისუფალი”.

3. მოაწესრიგეთ მასალა, რომელსაც კითხულობს. თითო წესის, ფასების სიისა და ხელშეკრულების შაბლონის ერთი მოქმედი ვერსია; ძველი ვერსიები საქაღალდიდან ამოღებული; ყოველ დოკუმენტს ჰყავს პასუხისმგებელი, რომელიც მას წესის შეცვლისას ანახლებს. თუ ასისტენტი თქვენი CRM-ით პასუხობს, იგივე ეხება იქ არსებულ ჩანაწერებს, როგორც ვწერდით სტატიაში CRM-ის მონაცემების ხარისხზე.

4. ჩაწერეთ წესები, რომლებსაც ის გამუდმებით იგონებს. დაბრუნების პირობები, მიწოდების დაპირებები, ფასდაკლებები, რა ითვლება საჩივრად. სადაც რისკი მაღალია, მიეცით ასისტენტს მზა ფორმულირება, ან ეს თემა ისეთად აქციეთ, სადაც პასუხს ადამიანი ადასტურებს, სანამ ის კლიენტს გაეგზავნება.

5. შეავიწროვეთ მისი საქმე. ჩამოთვალეთ, რაზე პასუხობს და რაზე ამბობს თავაზიანად უარს. სიის გარეთ კითხვებზე ის მოკლედ ამბობს უარს და, სადაც სასარგებლოა, საუბარს ადამიანს გადასცემს.

6. უთხარით ადამიანებს, რომ AI-სთან საუბრობენ. EU-ში ხელოვნური ინტელექტის აქტი (AI Act) მოითხოვს, რომ ადამიანებს ეცნობოთ, რომ AI სისტემასთან ურთიერთობენ, თუ ეს აშკარა არ არის, არაუგვიანეს პირველი ურთიერთობისა. ვალდებულება სისტემის მომწოდებელს ეკისრება და 2026 წლის 2 აგვისტოდან მოქმედებს. AI პასუხების მონიშვნა მოლოდინებსაც აყალიბებს: მას შემდეგ, რაც 2025 წელს მისმა მხარდაჭერის ბოტმა გამოყენების წესი მოიგონა, Cursor-მა ელფოსტით მხარდაჭერაში AI პასუხების მონიშვნა დაიწყო. საიტების შექმნის პროექტებში, სადაც ასისტენტს ვამატებთ, ვიზიტორებისთვის იმის თქმა, რომ AI-სთან საუბრობენ, თავიდანვე გვერდის ნაწილია.

7. ყოველი ცვლილების შემდეგ ხელახლა შეამოწმეთ. ახალმა დოკუმენტებმა, შესწორებულმა ინსტრუქციებმა და მომწოდებლის მხრიდან მოდელის განახლებებმა შეიძლება შეცვალოს პასუხები კითხვებზე, რომლებიც ადრე კარგად მუშაობდა. გაუშვით კითხვების ნაკრები ყოველი ასეთი ცვლილების შემდეგ და დატვირთული სეზონის წინ.

რა არ აჩერებს AI ჰალუცინაციებს თავისთავად?

პირველად ხშირად სამ გამოსწორებას ცდიან: ინსტრუქციაში ჰალუცინაციის აკრძალვის ხაზს, ტემპერატურას 0-ზე და დამატებით გაწვრთნას საკუთარ ტექსტებზე. თითოეული ასისტენტის მხოლოდ ერთ ნაწილს ცვლის. ფაქტები, რომლებიც აკლია, და “არ ვიცი”-ს თქმის უფლება დოკუმენტებიდან და ინსტრუქციებიდან მოდის, ამიტომ თუ ამ გამოსწორებების შემდეგ არასწორი პასუხები გრძელდება, ჯერ ისინი შეამოწმეთ.

როგორ გაიგოთ, რომ არასწორი პასუხები მცირდება?

თვალი ადევნეთ რამდენიმე მაჩვენებელს კითხვების ნაკრებიდან და რეალური საუბრებიდან, პირველ გამოსწორებამდე დაწყებული, რომ შესადარებელი გქონდეთ. შეამოწმეთ ისინი ყოველი ცვლილების შემდეგ, ხოლო როცა ასისტენტი დასტაბილურდება, რეგულარული გრაფიკით, და ჯამებთან ერთად თავად არასწორი პასუხებიც წაიკითხეთ.

• სწორი პასუხები თქვენს კითხვების ნაკრებზე, მათ შორის კითხვებზე, სადაც სწორი პასუხია “არ ვიცი”.
• არასწორი პასუხები კვირაში მიზეზების მიხედვით, რეალური საუბრების წაკითხვის საფუძველზე. მიზეზი, რომელიც ისევ და ისევ ბრუნდება, შემდეგი გამოსწორებაა.
• გადაცემები, რომლებიც ადამიანმა აიღო, და რამდენ ხანს ელოდა კლიენტი. გადაცემა, რომელსაც არავინ უპასუხა, ხშირად მაინც კლიენტის წასვლით მთავრდება.
• პასუხები, რომლებიც წყაროს აჩვენებს. თუ წყაროს გარეშე პასუხების წილი იზრდება, შეამოწმეთ, ფარავს თუ არა დოკუმენტები იმ კითხვებს, რომლებსაც ადამიანები სვამენ.

სად ვერთვებით ჩვენ

ვიწყებთ თქვენი კითხვებითა და დოკუმენტებით: კითხვების ნაკრები, სწორი პასუხები და წყაროები, რომლებიც ასისტენტმა უნდა გამოიყენოს. შემდეგ ასისტენტს ისე ვაწყობთ, რომ ამ მასალით უპასუხოს ხილული წყაროთი, ხოლო სადაც მნიშვნელოვანია, პასუხებს ადამიანი ამტკიცებდეს. შემდეგაც ვაგრძელებთ მის შემოწმებას კითხვების ნაკრებით, რეგულარული ხარისხის კონტროლის ფარგლებში. თუ თქვენი ასისტენტი უკვე არასწორ პასუხებს იძლევა, ბრიფი უმარტივესი გზაა, რომ გვაჩვენოთ, სად.

← ყველა სტატია