RAG თუ fine-tuning არჩევანია იმის შესახებ, თუ რა უნდა გააკეთოს თქვენმა ასისტენტმა. RAG, ანუ ძიებით გაძლიერებული გენერაცია, მოდელს პასუხის გაცემისას შესაბამის წყაროს მასალას აწვდის; fine-tuning კი მოდელის მაგალითებზე დამატებით გაწვრთნას ნიშნავს. დაიწყეთ ამოცანის მკაფიო ინსტრუქციის, ანუ prompt-ის, გამოცდით. შემდეგ შედეგი გამოიყენეთ იმის გადასაწყვეტად, დამატებითი სამუშაოს შეკვეთამდე წყაროს მასალის ნაკლებობა, არათანმიმდევრული შედეგი თუ ორივე უნდა გამოიკვლიოთ.
ერთი მომწოდებელი თქვენი ბიზნესისთვის AI სისტემის გაწვრთნას გთავაზობთ, მეორე კი საძიებო ცოდნის ბაზას. ეს აღწერები არ განსაზღვრავს, რა ამოცანა უნდა შეასრულოს დასრულებულმა სისტემამ ან რა ჩაითვლება წარუმატებელ შედეგად. ჩვენ ამ ამოცანის წერილობითი აღწერით ვიწყებთ. მიღებული შეთავაზებების შესადარებლად ის კონკრეტულ საფუძველს გაძლევთ.
რას ცვლის fine-tuning და RAG?
RAG პასუხისთვის მიწოდებულ მასალას ცვლის; fine-tuning მოდელს სწავლებით ცვლის. OpenAI-ის სიზუსტის სახელმძღვანელო კონტექსტის ნაკლებობას არათანმიმდევრული ქცევისგან განასხვავებს. მყიდველისთვის ეს სასარგებლო საწყისი განსხვავებაა, თუ გადაფარვის შესაძლებლობასაც დატოვებთ. დოკუმენტებზე დაფუძნებულ ასისტენტს პასუხის ერთგვაროვნად დაწერაც შეიძლება სჭირდებოდეს.
Amazon Bedrock-ის ცოდნის ბაზების განმარტების თანახმად, ძიება შესაბამის მასალას არჩევს და გენერაციის შემავალ მონაცემებში რთავს. თუ შემოთავაზებულმა ასისტენტმა დაბრუნების წესებზე კითხვებს უნდა უპასუხოს, მოითხოვეთ იმ დამტკიცებული მონაკვეთის ნახვა, რომელიც პასუხს ამყარებს. წყაროს მითითება მაინც უნდა შეადაროთ პასუხის შინაარსს.
Fine-tuning მაგალითებით მოდელს პასუხის გაცემას ასწავლის. OpenAI-ის სახელმძღვანელო მას ამოცანაზე ქცევის გაუმჯობესების ერთ-ერთ ვარიანტად აღწერს. წარმოიდგინეთ შეთანხმებული სტრუქტურის მქონე სასურველი გადაცემის ჩანაწერი: მომწოდებელს მისაღები ჩანაწერებისა და მათი საწყისი მონაცემების მაგალითები სჭირდება. ეს პოლიტიკის დოკუმენტების საქაღალდისგან განსხვავებული შედეგია.
არც ერთი დასახელება არ გეუბნებათ, აკმაყოფილებს თუ არა დემონსტრაცია თქვენს მოთხოვნებს. მომწოდებელს სთხოვეთ, განსაზღვროს რას ცვლის შემოთავაზებული კომპონენტი, აჩვენოს გამოყენებული მასალა და ახსნას, როგორ შეამოწმებთ შედეგს. განხილვა თქვენს მიერ შესაძენ რეალურ სამუშაოს დაუკავშირეთ.
დაიწყეთ ამოცანითა და მარტივი დემონსტრაციით
მიდგომის არჩევამდე აღწერეთ შემავალი მონაცემები და მისაღები შედეგი. Anthropic-ის prompt-ების სახელმძღვანელო მკაფიო წარმატების კრიტერიუმებით, მაგალითებზე ტესტითა და prompt-ის მონახაზით იწყება. შესყიდვის დავალების მოსამზადებლად ამ რიგს ვიყენებთ: დაწერეთ ინსტრუქცია, მიაწოდეთ დამტკიცებული მასალა და შეამოწმეთ, რას შეძლებს უმარტივესი შემოთავაზებული კონფიგურაცია. ეს შეფასების ჩვენ მიერ შემოთავაზებული მეთოდია და არა გამოქვეყნებული შედარებითი ტესტი.
დაბრუნების ასისტენტის საილუსტრაციო მაგალითში შემავალი მონაცემები შეიძლება იყოს მომხმარებლის კითხვა და შესაბამისი წესი. მისაღები მონახაზი მხოლოდ იმას პასუხობს, რასაც ეს წესი ამყარებს, და გამონაკლისებს ადამიანს გადასცემს. გაყიდვებისთვის გადაცემის საილუსტრაციო მაგალითში შემავალი მონაცემები შეიძლება იყოს მოთხოვნა და ჩანაწერის დამტკიცებული ფორმატი. შედეგმა მოთხოვნის აზრი უნდა შეინარჩუნოს და არარსებული დეტალები შეუვსებელი დატოვოს.
პროცესის მფლობელს დააწერინეთ, რა ხდის თითოეულ შედეგს მისაღებს. ჩართეთ მოთხოვნა, რომელიც ასისტენტმა უნდა უარყოს ან ადამიანს გადასცეს. გამოიყენეთ მასალა, რომლის გაზიარების უფლებაც გაქვთ, და არასაჭირო პირადი დეტალები წაშალეთ. დემონსტრაცია, რომელიც თქვენს მიერ მიუწოდებელ ინფორმაციაზეა დამოკიდებული, ჯერ პრაქტიკული შეთავაზება არ არის.
თუ უკვე გაქვთ ასისტენტი, რომელიც არასანდო პასუხებს იძლევა, შესაკვეთის გადაწყვეტამდე გამოიყენეთ ცალკე სახელმძღვანელო AI-ის მცდარი პასუხების მიზეზების შესამოწმებლად.
შემდეგი ტესტი დარჩენილი ხარვეზით აირჩიეთ
შემდეგი ტესტი დაფიქსირებული შეცდომის მიხედვით აირჩიეთ. AWS სპეციალურ დოკუმენტებზე დაფუძნებული კითხვებისთვის ჯერ ძიების გამოცდას გირჩევთ და ხშირად ცვალებად მასალასთან სწავლების შესაბამისობის შენარჩუნების სირთულეს აღნიშნავს. ის ძიებისა და fine-tuning-ის ერთად გამოყენებასაც უშვებს. ქვემოთ მოცემული ცხრილი დემონსტრაციაში ნაპოვნი ხარვეზისთვის შემდეგ ტესტს გთავაზობთ.
| რა აკლია დემონსტრაციას | შემდეგ რა შეამოწმოთ |
|---|---|
| ინფორმაცია დამტკიცებული, ცვალებადი დოკუმენტებიდან | ძიება, რომელიც შესაბამის მიმდინარე მასალას აწვდის |
| განმეორებადი შედეგი მკაფიო ინსტრუქციებისა და მაგალითების შემდეგაც არათანმიმდევრულია | სწავლება მიღებულ მაგალითებზე, თუ არჩეული მოდელი ამას მხარს უჭერს |
| წყაროს მასალა და უფრო თანმიმდევრული პასუხი | კომბინირებული კონფიგურაცია, თითოეული მოთხოვნის შემოწმებით |
თუ მარტივი დემონსტრაცია მოთხოვნებს უკვე აკმაყოფილებს, ეს ვარიანტი შედარებაში დატოვეთ. იკითხეთ, რა დამატებით პრობლემას გადაჭრის შემოთავაზებული სწავლება ან საძიებო სისტემა. არჩევანი შეიძლება ღიაც დარჩეს, სანამ საჭირო მასალებს ამზადებთ.
AWS აღნიშნავს, რომ fine-tuning ყველა მოდელისთვის ხელმისაწვდომი არ არის. მომწოდებელს სთხოვეთ, დაასახელოს პროვაიდერი და მოდელი, ახსნას სად და როგორ იმუშავებს სისტემა და დაადასტუროს შემოთავაზებული სწავლებისა და განთავსების მიმდინარე მხარდაჭერა.
ვინ მოუვლის სისტემას გაშვების შემდეგ?
შეადარეთ პასუხისმგებლობები, რომლებსაც თითოეული შეთავაზება თქვენს გუნდს უტოვებს. ძიებისთვის დაასახელეთ პირი, რომელიც წყაროს დოკუმენტებს ამტკიცებს და ამოწმებს, რომ განახლებები ასისტენტამდე მივიდა. სწავლებისთვის დაასახელეთ ის, ვინც მიღებულ მაგალითებს ამზადებს და შემდგომ ცვლილებებს განიხილავს. ჩაწერეთ, ვინ გასცემს წვდომას, ვინ აგვარებს ხარვეზებს და როგორ აბრუნებენ თანამშრომლები ამოცანას ხელით პროცესში, როცა სისტემა შეუფერებელია.
კომპონენტების არჩევამდე ამ კითხვებს AI-ის დანერგვის დაგეგმვაში ვრთავთ. სასარგებლო დავალება აფიქსირებს:
- ამოცანას, ნებადართულ შემავალ მონაცემებსა და მოსალოდნელ შედეგს.
- ავტორიტეტულ წყაროებს, მათ მფლობელსა და განახლების პროცესს.
- მისაღები სამუშაოსა და დაუშვებელი გამოტოვებების ან დამატებების მაგალითებს.
- მოთხოვნის უარყოფის ან ადამიანისთვის გადაცემის პირობებს.
- მიღების შემოწმებებს, შემმოწმებელსა და გადასაცემ მასალას.
მოქმედ შეკვეთასთან ან კონტაქტის ჩანაწერთან მუშაობისას იკითხეთ, როგორ მიიღებს შემოთავაზებული სისტემა ნებადართულ მიმდინარე ჩანაწერს. ეს მოთხოვნა დავალების CRM ინტეგრაციის ნაწილში ჩართეთ. ექსპორტირებულ ჩანაწერებზე სწავლების შეთავაზებამ მაინც უნდა ახსნას, როგორ დამუშავდება შემდგომი ცვლილებები.
იკითხეთ, სად შეინახება დოკუმენტები, საძიებო ასლები, მაგალითები და შედეგები, ვის ექნება მათზე წვდომა და როგორ ხდება წაშლა. პასუხები რეალური განთავსებისთვის ჩაიწერეთ. არც ერთი არქიტექტურის დასახელება არ ჩათვალოთ ჰოსტინგის ან ნებართვის შესახებ გადაწყვეტილებად.
შეამოწმეთ შეთავაზება უცნობ მოთხოვნებზე
სატესტო მოთხოვნები შემოთავაზებული სისტემის კონფიგურაციისთვის ან სწავლებისთვის გამოყენებულ მასალებში არ შეიტანოთ. თითოეულ მომწოდებელს სთხოვეთ, ეს მოთხოვნები მიღების ერთი და იმავე კრიტერიუმებით შეასრულოს. პროცესის მფლობელმა შეამოწმოს შედეგები, მათ შესაქმნელად გამოყენებული შემავალი მონაცემები და საჭირო შესწორებები. ეს შეთავაზებას თქვენს ამოცანაზე ამოწმებს; ყველა მომავალ მოთხოვნაზე მუშაობას კი არ ამტკიცებს.
- შეინახეთ საწყისი დონე. შეინახეთ ხელით პროცესისა და მარტივი prompt-ის შედეგები, მათ შემავალ მონაცემებსა და შეფასების შენიშვნებთან ერთად.
- შეამოწმეთ წყაროს განახლება. შეცვალეთ დამტკიცებული სატესტო დოკუმენტი და შესაბამისი კითხვა გაიმეორეთ. მომწოდებელს სთხოვეთ, აჩვენოს გამოყენებული ვერსია და როგორ მიაღწია განახლებამ სისტემამდე.
- შეამოწმეთ შედეგის წესები. მოთხოვნა სხვაგვარად ჩამოაყალიბეთ და ინფორმაციის ნაწილი გამოტოვეთ. შეამოწმეთ, ინარჩუნებს თუ არა ჩანაწერი საჭირო სტრუქტურას დეტალის გამოგონების გარეშე.
- გამოცადეთ წვდომა და ფარგლები. სცადეთ შეთანხმებული ფარგლების გარეთ მყოფი მოთხოვნა და მომხმარებელი, რომელსაც შეზღუდული დოკუმენტი არ უნდა მიეღო. შეამოწმეთ რეალური უარი ან ადამიანისთვის გადაცემა.
- ჩაწერეთ სამუშაო, რომელიც გუნდმა უნდა გააგრძელოს. აღნიშნეთ შესწორებები, განხილვის დრო და მასალების მომვლელი. სამუშაოს გაფართოებამდე ისინი საწყის დონეს შეადარეთ.
თუ შემოწმება ჩავარდება, ჩაწერეთ შეუსრულებელი მოთხოვნა და განახლებული დემონსტრაცია მოითხოვეთ. უფრო რთულ მიდგომაში მხოლოდ იმიტომ ნუ გადაიხდით, რომ მისი სახელი უფრო ძლიერად ჟღერს. მიიღეთ ის ფარგლები, რომელთა შემოწმებაც შეგიძლიათ, ან დაკარგული პირობების მოგვარებამდე ამოცანა ადამიანებს დაუტოვეთ.
ჩვენი როლი
ვიწყებთ ამოცანის, ნებადართული მონაცემებისა და მიღების შემოწმებების ერთად ჩამოყალიბებით. შემდეგ შემოთავაზებულ მიდგომებს ამ დავალებას ვადარებთ და ვაფიქსირებთ, ვინ მოუვლის წყაროებს, მაგალითებსა და შეფასებას. სასარგებლო პირველი ნაბიჯია რეალური მოთხოვნის დაწერა და თქვენთვის საჭირო შედეგის მაგალითის დამტკიცება.
