ღრმა სწავლება ტექსტის ავტომატური დამუშავებისთვის. როგორ გამოიყურება ღრმა ნერვული ქსელები და რატომ მოითხოვს მათ ამდენ მეხსიერებას

ხელოვნურ ნერვულ ქსელებზე დღეს ბევრს საუბრობენ და წერენ, როგორც დიდი მონაცემებისა და მანქანათმცოდნეობის კონტექსტში, ასევე მის ფარგლებს გარეთ. ამ სტატიაში ჩვენ გავიხსენებთ ამ კონცეფციის მნიშვნელობას, კიდევ ერთხელ გამოვყოფთ მისი გამოყენების ფარგლებს და ასევე ვისაუბრებთ მნიშვნელოვან მიდგომაზე, რომელიც დაკავშირებულია ნერვულ ქსელებთან - ღრმა სწავლებაზე, აღვწერთ მის კონცეფციას, ასევე უპირატესობებს. და უარყოფითი მხარეები კონკრეტული გამოყენების შემთხვევებში.

რა არის ნერვული ქსელი?

მოგეხსენებათ, ნერვული ქსელის (NN) კონცეფცია მომდინარეობს ბიოლოგიიდან და არის ადამიანის ტვინის სტრუქტურის გარკვეულწილად გამარტივებული მოდელი. მაგრამ მოდი არ ჩავუღრმავდეთ ბუნების მეცნიერების ბუნებას - უმარტივესი გზაა წარმოვიდგინოთ ნეირონი (მათ შორის ხელოვნური) როგორც ერთგვარი შავი ყუთი მრავალი შეყვანის ხვრელით და ერთი გამოსავალით.

მათემატიკურად, ხელოვნური ნეირონი გარდაქმნის შეყვანის სიგნალების ვექტორს (ზემოქმედებას) X გამომავალი სიგნალების ვექტორად Y ფუნქციის გამოყენებით, რომელსაც ეწოდება აქტივაციის ფუნქცია. კავშირის ფარგლებში (ხელოვნური ნერვული ქსელი - ANN) ფუნქციონირებს ნეირონების სამი ტიპი: შეყვანა (ინფორმაციის მიღება გარე სამყაროდან - ჩვენ დაინტერესებული ცვლადების მნიშვნელობები), გამომავალი (სასურველი ცვლადების დაბრუნება - მაგალითად, პროგნოზები). ან საკონტროლო სიგნალები), ისევე როგორც შუალედური ნეირონები, რომლებიც ასრულებენ გარკვეულ შიდა („დამალულ“) ფუნქციებს. ამრიგად, კლასიკური ANN შედგება ნეირონების სამი ან მეტი ფენისგან, ხოლო მეორე და მომდევნო ფენებში („დამალული“ და გამომავალი), თითოეული ელემენტი დაკავშირებულია წინა ფენის ყველა ელემენტთან.

მნიშვნელოვანია გვახსოვდეს კონცეფცია უკუკავშირი, რომელიც განსაზღვრავს ANN სტრუქტურის ტიპს: პირდაპირი სიგნალის გადაცემა (სიგნალები მიდის თანმიმდევრულად შეყვანის ფენიდან ფარული ფენის გავლით და შედიან გამომავალ ფენაში) და განმეორებადი სტრუქტურა, როდესაც ქსელი შეიცავს კავშირებს უკან, უფრო შორიდან ახლო ნეირონებამდე). ყველა ეს კონცეფცია წარმოადგენს აუცილებელ მინიმალურ ინფორმაციას ANN-ის გაგების შემდეგ დონეზე გადასასვლელად - ნერვული ქსელის სწავლება, მისი მეთოდების კლასიფიკაცია და თითოეული მათგანის მოქმედების პრინციპების გაგება.

ნერვული ქსელის ტრენინგი

არ უნდა დაგვავიწყდეს, რატომ გამოიყენება ზოგადად ასეთი კატეგორიები - წინააღმდეგ შემთხვევაში, არსებობს აბსტრაქტულ მათემატიკაში ჩაძირვის რისკი. სინამდვილეში, ხელოვნური ნერვული ქსელები ნიშნავს გარკვეული მეთოდების გადაჭრის კლასს პრაქტიკული პრობლემები, რომელთა შორის მთავარია ნიმუშის ამოცნობის, გადაწყვეტილების მიღების, მიახლოების და მონაცემთა შეკუმშვის პრობლემები, ასევე ჩვენთვის ყველაზე საინტერესო კლასტერული ანალიზისა და პროგნოზირების პრობლემები.

მეორე უკიდურესობამდე გადასვლის გარეშე და ყოველ კონკრეტულ შემთხვევაში ANN მეთოდების ფუნქციონირების დეტალების გარეშე, შეგახსენოთ, რომ ნებისმიერ ვითარებაში ეს არის ნერვული ქსელის უნარი ისწავლოს (მასწავლებელთან ან „დამოუკიდებლად“ ) ანუ საკვანძო წერტილიმისი გამოყენება პრაქტიკული პრობლემების გადასაჭრელად.

ზოგადად, ANN-ის სწავლება შემდეგია:

1. შეყვანის ნეირონები იღებენ ცვლადებს („სტიმულს“) გარე გარემოდან;
2. მიღებული ინფორმაციის შესაბამისად იცვლება ნერვული ქსელის თავისუფალი პარამეტრები (მუშაობს ნეირონების შუალედური ფენები);
3. ნერვული ქსელის სტრუქტურაში ცვლილებების შედეგად ქსელი სხვაგვარად „რეაგირებს“ ინფორმაციას.

ასე ზოგადი ალგორითმინერვული ქსელის გაწვრთნა (მოდით, გავიხსენოთ პავლოვის ძაღლი - დიახ, სწორედ ეს არის პირობითი რეფლექსის ფორმირების შიდა მექანიზმი - და დაუყოვნებლივ დავივიწყოთ: ბოლოს და ბოლოს, ჩვენი კონტექსტი გულისხმობს მუშაობას ტექნიკური ცნებებიდა მაგალითები).

გასაგებია, რომ უნივერსალური სწავლის ალგორითმი არ არსებობს და, დიდი ალბათობით, ვერც იარსებებს; კონცეპტუალურად, სწავლისადმი მიდგომები იყოფა ზედამხედველობით სწავლებად და ზედამხედველობის გარეშე სწავლებად. პირველი ალგორითმი ვარაუდობს, რომ თითოეული შეყვანის ("სწავლის") ვექტორისთვის არის გამომავალი ("სამიზნე") ვექტორის საჭირო მნიშვნელობა - ამრიგად, ეს ორი მნიშვნელობა ქმნის სასწავლო წყვილს და ასეთი წყვილების მთელი ნაკრები არის სავარჯიშო კომპლექტი. უკონტროლო სწავლის შემთხვევაში, სასწავლო ნაკრები შედგება მხოლოდ შეყვანის ვექტორებისგან - და ეს სიტუაცია უფრო დამაჯერებელია რეალური ცხოვრების თვალსაზრისით.

ღრმა სწავლა

ღრმა სწავლის კონცეფცია ეხება სხვა კლასიფიკაციას და აღნიშნავს მიდგომას ე.წ ღრმა სტრუქტურების მომზადებისადმი, რომელიც მოიცავს მრავალ დონის ნერვულ ქსელებს. მარტივი მაგალითი გამოსახულების ამოცნობის სფეროდან: აუცილებელია ასწავლოს მანქანას მზარდი აბსტრაქტული მახასიათებლების იდენტიფიცირება სხვა თვალსაზრისით. აბსტრაქტული თვისებებიანუ მთელი სახის, თვალებისა და პირის გამომეტყველებას და, საბოლოო ჯამში, ფერადი პიქსელების ჯგუფს შორის კავშირის დადგენა მათემატიკურად. ამრიგად, ღრმა ნერვულ ქსელში, მახასიათებლების თითოეულ დონეს აქვს საკუთარი შრე; ნათელია, რომ ასეთი "კოლოსის" მომზადება მოითხოვს მკვლევართა შესაბამის გამოცდილებას და ტექნიკის დონეს. პირობები განვითარდა ღრმა ნერვული სწავლის სასარგებლოდ მხოლოდ 2006 წლისთვის - და რვა წლის შემდეგ შეგვიძლია ვისაუბროთ რევოლუციაზე, რომელიც ამ მიდგომამ გამოიწვია მანქანათმცოდნეობაში.

ასე რომ, უპირველეს ყოვლისა, ჩვენი სტატიის კონტექსტში, აღსანიშნავია შემდეგი: ღრმა სწავლა უმეტეს შემთხვევაში არ ექვემდებარება ადამიანის ზედამხედველობას. ანუ ეს მიდგომა გულისხმობს ნერვული ქსელის მომზადებას მასწავლებლის გარეშე. ეს არის „ღრმა“ მიდგომის მთავარი უპირატესობა: ზედამხედველობითი მანქანური სწავლება, განსაკუთრებით ღრმა სტრუქტურების შემთხვევაში, მოითხოვს უზარმაზარ დროს - და შრომას - ხარჯებს. ღრმა სწავლა, მეორე მხრივ, არის მიდგომა, რომელიც აყალიბებს (ან მინიმუმ ცდილობს მიახლოებას) ადამიანის აბსტრაქტულ აზროვნებას და არა მის გამოყენებას.

იდეა, ჩვეულებისამებრ, მშვენიერია, მაგრამ საკმაოდ ბუნებრივი პრობლემები ჩნდება მიდგომის გზაზე - უპირველეს ყოვლისა, ფესვგადგმული მისი უნივერსალურობის პრეტენზიებში. სინამდვილეში, მიუხედავად იმისა, რომ ღრმა სწავლის მიდგომებმა მიაღწიეს მნიშვნელოვან წარმატებას გამოსახულების ამოცნობის სფეროში, იგივე ბუნებრივი ენის დამუშავება კვლავ ბევრ კითხვას ბადებს, ვიდრე პასუხებს. აშკარაა, რომ მომდევნო n წელიწადში ნაკლებად სავარაუდოა, რომ შესაძლებელი იქნება "ხელოვნური ლეონარდო და ვინჩის" შექმნა ან თუნდაც - თუნდაც! - "ხელოვნური ჰომო საპიენსი".

თუმცა, ხელოვნური ინტელექტის მკვლევარები უკვე დგანან ეთიკის საკითხის წინაშე: ყველა თავმოყვარე სამეცნიერო ფანტასტიკურ ფილმში გამოხატული შიშები, დაწყებული "ტერმინატორით" და დამთავრებული "ტრანსფორმერებით", აღარ გამოიყურება სასაცილო (თანამედროვე დახვეწილი ნერვული ქსელები უკვე შეიძლება იყოს სარწმუნო მოდელად ითვლება მწერის ტვინის მუშაობა!), მაგრამ აშკარად არასაჭიროა.

იდეალური ტექნოლოგიური მომავალი გვეჩვენება, როგორც ეპოქა, როდესაც ადამიანს შეეძლება თავისი უფლებამოსილების უმეტესი ნაწილი გადასცეს მანქანას - ან, სულ მცირე, მისცეს საშუალება, ხელი შეუწყოს მისი ინტელექტუალური მუშაობის მნიშვნელოვან ნაწილს. ღრმა სწავლის კონცეფცია არის ერთი ნაბიჯი ამ ოცნებისკენ. წინ გრძელი გზაა, მაგრამ უკვე ნათელია, რომ ნერვულ ქსელებს და მათთან დაკავშირებულ განვითარებად მიდგომებს შეუძლიათ საბოლოოდ გააცნობიერონ სამეცნიერო ფანტასტიკის მწერლების მისწრაფებები.

და ნაწილობრივ, ეს სახელმძღვანელო განკუთვნილია ყველასთვის, ვინც დაინტერესებულია მანქანური სწავლით, მაგრამ არ იცის საიდან დაიწყოს. სტატიების შინაარსი განკუთვნილია ფართო აუდიტორიისთვის და იქნება საკმაოდ ზედაპირული. მაგრამ ვინმეს მართლა აინტერესებს? როგორ მეტი ადამიანიდაინტერესდით მანქანური სწავლით, მით უკეთესი.

საგნების ამოცნობა ღრმა სწავლის გამოყენებით

თქვენ შეიძლება უკვე გინახავთ ეს ცნობილი xkcd კომიქსი. ხუმრობა ისაა, რომ ნებისმიერ 3 წლის ბავშვს შეუძლია ჩიტის ფოტოს ამოცნობა, მაგრამ კომპიუტერის გაკეთებას 50 წელზე მეტი დასჭირდა საუკეთესო კომპიუტერულ მეცნიერებს ბოლო რამდენიმე წლის განმავლობაში, ჩვენ საბოლოოდ ვიპოვეთ კარგი მიდგომა ობიექტთან დაკავშირებით აღიარება გამოყენებით ღრმა კონვოლუციური ნერვული ქსელები. ეს ჟღერს შედგენილი სიტყვების თაიგულს ფანტასტიკური რომანიუილიამ გიბსონი, მაგრამ ყველაფერი გაირკვევა, როცა მათ სათითაოდ ავიღებთ, მოდით, დავწეროთ პროგრამა, რომელიც ცნობს ფრინველებს!

დავიწყოთ მარტივი

სანამ ვისწავლით როგორ ამოვიცნოთ ფრინველების სურათები, მოდით ვისწავლოთ როგორ ამოვიცნოთ რაღაც ბევრად უფრო მარტივი - ხელნაწერი ნომერი "8".

სტატიიდან შეიტყობთ რა არის ღრმა სწავლა. სტატია ასევე შეიცავს ბევრ რესურსს, რომელიც შეგიძლიათ გამოიყენოთ ამ სფეროს დასაუფლებლად.

IN თანამედროვე სამყაროჯანდაცვისგან დაწყებული წარმოებამდე, ღრმა სწავლება ყველგან გამოიყენება. კომპანიები მიმართავენ ამ ტექნოლოგიას რთული პრობლემების გადასაჭრელად, როგორიცაა მეტყველების და ობიექტების ამოცნობა, მანქანური თარგმანი და ა.შ.

ამ წლის ერთ-ერთი ყველაზე შთამბეჭდავი მიღწევა იყო AlphaGo-მ დაამარცხა მსოფლიოს საუკეთესო Go მოთამაშე. Go-ს გარდა, მანქანები სცემეს ხალხს სხვა თამაშებში: ქვები, ჭადრაკი, რევერსი და ჯეოპარდი.

შესაძლოა გამარჯვება სამაგიდო თამაშიროგორც ჩანს, შეუძლებელია რეალური პრობლემების გადასაჭრელად, მაგრამ ეს სულაც არ არის სიმართლე. Go შექმნილია ხელოვნური ინტელექტის მიერ დაუმარცხებელი. ამისათვის მას უნდა ისწავლოს ერთი მნიშვნელოვანი რამ ამ თამაშისთვის - ადამიანის ინტუიცია. ახლა, ამ განვითარების დახმარებით, შესაძლებელია მრავალი პრობლემის გადაჭრა, რომლებიც ადრე მიუწვდომელი იყო კომპიუტერისთვის.

ცხადია, ღრმა სწავლება ჯერ კიდევ შორს არის სრულყოფისაგან, მაგრამ ის უკვე ახლოსაა კომერციულად გამოსადეგობასთან. მაგალითად, ეს თვითმართვადი მანქანები. ცნობილი კომპანიები, როგორიცაა Google, Tesla და Uber, უკვე ცდილობენ ქალაქის ქუჩებში ავტონომიური მანქანების დანერგვას.

Ford პროგნოზირებს თვითმართვის წილის მნიშვნელოვან ზრდას მანქანები 2021 წლისთვის. აშშ-ს მთავრობამ ასევე მოახერხა მათთვის უსაფრთხოების წესების შემუშავება.

რა არის ღრმა სწავლა?

ამ კითხვაზე პასუხის გასაცემად, თქვენ უნდა გესმოდეთ, როგორ ურთიერთქმედებს ის მანქანურ სწავლებასთან, ნერვულ ქსელებთან და ხელოვნურ ინტელექტთან. ამისათვის ჩვენ ვიყენებთ ვიზუალიზაციის მეთოდს კონცენტრული წრეების გამოყენებით:

გარე წრე ზოგადად ხელოვნური ინტელექტია (მაგ. კომპიუტერები). ცოტა უფრო შორს არის მანქანათმცოდნეობა, ხოლო ცენტრში არის ღრმა სწავლება და ხელოვნური ნერვული ქსელები.

უხეშად რომ ვთქვათ, ღრმა სწავლება უბრალოდ უფრო მოსახერხებელი სახელია ხელოვნური ნერვული ქსელებისთვის. ამ ფრაზაში „ღრმა“ მიუთითებს ნერვული ქსელის სირთულის (სიღრმის) ხარისხზე, რომელიც ხშირად შეიძლება საკმაოდ ზედაპირული იყოს.

პირველი ნერვული ქსელის შემქმნელები შთაგონებული იყვნენ ცერებრალური ქერქის სტრუქტურით. საბაზისო დონექსელი, პერცეტრონი, არსებითად ბიოლოგიური ნეირონის მათემატიკური ანალოგია. და, როგორც ტვინში, პერცეპტრონები, რომლებიც ერთმანეთს კვეთენ, შეიძლება გამოჩნდნენ ნერვულ ქსელში.

ნერვული ქსელის პირველ ფენას შეყვანის ფენა ეწოდება. ამ ფენის თითოეული კვანძი იღებს გარკვეულ ინფორმაციას შეყვანის სახით და გადასცემს მას სხვა ფენების შემდგომ კვანძებს. ყველაზე ხშირად, არ არსებობს კავშირი ერთი ფენის კვანძებს შორის და ჯაჭვის ბოლო კვანძი გამოსცემს ნერვული ქსელის შედეგს.

შუაში მდებარე კვანძებს ეწოდება ფარული კვანძები, რადგან მათ არ აქვთ კავშირი გარე სამყარო, როგორც გამომავალი და შეყვანის კვანძები. ისინი იძახიან მხოლოდ მაშინ, როდესაც წინა ფენები გააქტიურებულია.

ღრმა სწავლა არსებითად არის ნერვული ქსელის ტრენინგის ტექნიკა, რომელიც იყენებს მრავალ ფენას რთული პრობლემების გადასაჭრელად (როგორიცაა მეტყველების ამოცნობა) შაბლონების გამოყენებით. ოთხმოციან წლებში ნერვული ქსელების უმეტესობა იყო ერთ ფენიანი მაღალი ღირებულებისა და მონაცემთა შეზღუდული შესაძლებლობების გამო.

თუ მანქანურ სწავლებას განვიხილავთ, როგორც ხელოვნური ინტელექტის ფილიალს ან ვარიანტს, მაშინ ღრმა სწავლება არის ასეთი დარგის სპეციალიზებული ტიპი.

მანქანური სწავლება იყენებს კომპიუტერულ ინტელექტს, რომელიც დაუყოვნებლივ არ იძლევა პასუხს. ამის ნაცვლად, კოდი იმუშავებს ტესტის მონაცემებზე და, მათი შედეგების სისწორეზე დაყრდნობით, დაარეგულირებს მის პროგრესს. ამ პროცესის წარმატებისთვის ჩვეულებრივ გამოიყენება სხვადასხვა ტექნიკა, სპეციალური პროგრამული უზრუნველყოფადა კომპიუტერული მეცნიერება, რომელიც აღწერს სტატიკურ მეთოდებს და ხაზოვან ალგებრას.

ღრმა სწავლის მეთოდები

ღრმა სწავლის მეთოდები იყოფა ორ ძირითად ტიპად:

• დარიგებული ტრენინგი
• უკონტროლო სწავლა

პირველი მეთოდი იყენებს სპეციალურად შერჩეულ მონაცემებს სასურველი შედეგის მისაღწევად. ეს მოითხოვს საკმაოდ დიდ ადამიანურ ჩარევას, რადგან მონაცემები ხელით უნდა შეირჩეს. თუმცა, ის სასარგებლოა კლასიფიკაციისა და რეგრესიისთვის.

წარმოიდგინეთ, რომ თქვენ ხართ კომპანიის მფლობელი და გსურთ განსაზღვროთ ბონუსების გავლენა თქვენს ქვეშევრდომებთან ხელშეკრულებების ხანგრძლივობაზე. წინასწარ შეგროვებული მონაცემებით, ზედამხედველობითი სწავლის მეთოდი შეუცვლელი და ძალიან ეფექტური იქნებოდა.

მეორე მეთოდი არ გულისხმობს წინასწარ მომზადებულ პასუხებს და მუშაობის ალგორითმებს. ის მიზნად ისახავს მონაცემთა ფარული შაბლონების იდენტიფიცირებას. ის, როგორც წესი, გამოიყენება კლასტერიზაციისა და ასოციაციის ამოცანებისთვის, როგორიცაა კლიენტების დაჯგუფება ქცევის მიხედვით. "ისინი ასევე ირჩევენ ამით" ამაზონზე ასოციაციის ამოცანის ვარიანტია.

მიუხედავად იმისა, რომ ზედამხედველობითი სწავლის მეთოდი ხშირად საკმაოდ მოსახერხებელია, უფრო რთული ვერსია მაინც უკეთესია. ღრმა სწავლებამ დაამტკიცა, რომ არის ნერვული ქსელი, რომელიც არ საჭიროებს ადამიანის ზედამხედველობას.

ღრმა სწავლის მნიშვნელობა

კომპიუტერები დიდი ხანია იყენებდნენ ტექნოლოგიას გამოსახულების გარკვეული მახასიათებლების ამოსაცნობად. თუმცა, შედეგები შორს იყო წარმატებული. კომპიუტერულმა ხედვამ წარმოუდგენელი გავლენა მოახდინა ღრმა სწავლებაზე. სწორედ ეს ორი ტექნიკაა მომენტშიამოცნობის ყველა პრობლემის გადაჭრა.

კერძოდ, ფეისბუქმა შეძლო ღრმა სწავლის გამოყენებით ფოტოების სახეების ამოცნობა. ეს არ არის ტექნოლოგიის მარტივი გაუმჯობესება, არამედ გარდამტეხი მომენტი, რომელიც ცვლის ყველა ადრინდელ რწმენას: „ადამიანს შეუძლია 97,53% ალბათობით განსაზღვროს, არის თუ არა ერთი და იგივე ადამიანი წარმოდგენილი ორზე. სხვადასხვა ფოტოები. ფეისბუქის გუნდის მიერ შემუშავებულ პროგრამას შეუძლია ამის გაკეთება 97,25%-იანი ალბათობით, განურჩევლად განათებისა თუ პირი პირდაპირ კამერას უყურებს თუ მისკენ გვერდულად არის შემობრუნებული“.

მეტყველების ამოცნობამ ასევე განიცადა მნიშვნელოვანი ცვლილებები. Baidu-ს გუნდმა, ერთ-ერთმა წამყვანმა საძიებო სისტემამ ჩინეთში, შეიმუშავა მეტყველების ამოცნობის სისტემა, რომელმაც შეძლო ადამიანებზე აჯობა ინგლისურ ენაზე ტექსტის წერის სისწრაფითა და სიზუსტით. მობილური მოწყობილობები. ინგლისურ და მანდარინურ ენებზე.

განსაკუთრებით საინტერესო ის არის, რომ ორი სრულიად განსხვავებული ენისთვის საერთო ნერვული ქსელის დაწერა დიდ შრომას არ სჭირდებოდა: „ისტორიულად ხალხი ჩინურსა და ინგლისურს ხედავდა, როგორც მთლიანად ორს. სხვადასხვა ენებზეამიტომ თითოეული მათგანის მიმართ განსხვავებული მიდგომა იყო საჭირო“, - ამბობს პატრონი კვლევითი ცენტრიბაიდუ, ენდრიუ ნგ. ”სწავლის ალგორითმები ახლა იმდენად განზოგადებულია, რომ თქვენ შეგიძლიათ უბრალოდისწავლე."

Google იყენებს ღრმა სწავლებას ენერგიის მართვისთვის კომპანიის მონაცემთა ცენტრებში. მათ შეძლეს გაგრილების რესურსის ხარჯების 40%-ით შემცირება. ეს არის ენერგოეფექტურობის დაახლოებით 15%-იანი გაუმჯობესება და მილიონობით დოლარის დაზოგვა.

ღრმა სწავლის მიკროსერვისები

აქ მოკლე მიმოხილვაღრმა სწავლებასთან დაკავშირებული სერვისები.

ილუსტრაცია Tagger. Illustration2Vec-ის მიერ გაუმჯობესებული ეს სერვისი საშუალებას გაძლევთ მონიშნოთ სურათები რეიტინგით „დაცული“, „საეჭვოა“, „საშიში“, „საავტორო უფლებები“ ან „ზოგადი“, რათა წინასწარ გაიგოთ სურათის შინაარსი.

• Google-ის Theano დანამატი
• რედაქტირებადი Python-სა და Numpy-ში
• ხშირად გამოიყენება გარკვეული პრობლემების გადასაჭრელად

• არა ზოგადი დანიშნულება. ფოკუსირება მანქანურ ხედვაზე
• რედაქტირებულია C++-ში
• პითონში არის ინტერფეისი

ონლაინ კურსები ღრმა სწავლების შესახებ

Google და Udacity გაერთიანდნენ, რათა შექმნან უფასო კურსი ღრმა სწავლების შესახებ, Udacity Machine Learning კურსის ნაწილი. ამ პროგრამას ხელმძღვანელობენ გამოცდილი დეველოპერები, რომლებსაც სურთ განავითარონ მანქანათმცოდნეობის სფერო და, კერძოდ, ღრმა სწავლება.

კიდევ ერთი პოპულარული ვარიანტია მანქანათმცოდნეობის კურსი ენდრიუ ნგისგან, რომელსაც მხარს უჭერს Coursera და Stanford.

1. მანქანათმცოდნეობა - სტენფორდი ენდრიუ ნგ-ის მიერ Coursera-ზე (2010-2014)
2. მანქანური სწავლება - Caltech by Yaser Abu-Mostafa (2012-2014)
3. მანქანური სწავლება - კარნეგი მელონი ტომ მიტჩელის მიერ (2011 წლის გაზაფხული)
4. ნერვული ქსელები მანქანათმცოდნეობისთვის - ჯეფრი ჰინტონი Coursera-ზე (2012)
5. ნერვული ქსელების კლასი– უგო ლაროშელი Université de Sherbrooke-დან (2013)

წიგნები ღრმა სწავლის შესახებ

მიუხედავად იმისა, რომ წინა ნაწილის რესურსები საკმაოდ ფართო ცოდნის ბაზაზეა დაფუძნებული, Grokking Deep Learning, პირიქით, გამიზნულია დამწყებთათვის. როგორც ავტორები ამბობენ: „თუ თქვენ დაასრულეთ მე-11 კლასი და გაქვთ უხეშად გესმით პითონის დაწერის შესახებ, ჩვენ გასწავლით ღრმა სწავლას“.

ამ წიგნის პოპულარული ალტერნატივა არის წიგნი თვითახსნადი სათაურით Deep Learning Book. ეს განსაკუთრებით კარგია, რადგან ის მოიცავს მთელ მათემატიკას, რაც დაგჭირდებათ ამ სფეროში მოსახვედრად.

1. იოშუა ბენჯიოს, იან გუდფელოუს და აარონ კურვილის "ღრმა სწავლა" (2015)
2. მაიკლ ნილსენის "ნერვული ქსელები და ღრმა სწავლება" (2014)
3. "ღრმა სწავლა" Microsoft Research-იდან (2013)
4. "ღრმა სწავლის გაკვეთილები" LISA ლაბორატორიიდან, მონრეალის უნივერსიტეტი (2015)
5. ანდრეი კარპატის "ნეიროტალკი".
6. "შესავალი გენეტიკურ ალგორითმებში"
7. "თანამედროვე მიდგომა ხელოვნური ინტელექტისადმი"
8. "ღრმა სწავლისა და ნერვული ქსელების მიმოხილვა"

ვიდეოები და ლექციები

Deep Learning Simplified არის შესანიშნავი YouTube არხი. აი მათი პირველი ვიდეო:

ჭკვიანი რობოტების მომავალი რევოლუცია 1950-იანი წლებიდან ყოველ ათწლეულში იწინასწარმეტყველა. თუმცა, ეს არასდროს მომხდარა. პროგრესი სფეროში ხელოვნური ინტელექტი მოხდა გაურკვევლად, ზოგჯერ მოსაწყენად, რამაც იმედგაცრუება გამოიწვია ბევრ ენთუზიასტს. თვალსაჩინო წარმატებები - Deep Blue კომპიუტერი, რომელიც შეიქმნა IBM-ის მიერ 1990-იანი წლების შუა პერიოდში და რომელმაც გარი კასპაროვი ჭადრაკში 1997 წელს დაამარცხა, ან ელექტრონული მთარგმნელის გამოჩენა 1990-იანი წლების ბოლოს - უფრო სავარაუდოა, რომ "უხეში" გამოთვლების შედეგი იყო, ვიდრე ადამიანის აღქმის მექანიზმების გადატანა კომპიუტერულ პროცესებზე.

თუმცა, იმედგაცრუებისა და წარუმატებლობის ამბავი ახლა მკვეთრად იცვლება. სულ რაღაც ათი წლის წინ, კომპიუტერულ ხედვასა და საგნების ამოცნობის ალგორითმებს შეეძლოთ სფეროს ან პარალელეპიპედის იდენტიფიცირება. მარტივი ფონი. ახლა მათ შეუძლიათ განასხვავონ ადამიანის სახეები, ისევე როგორც ადამიანებს, თუნდაც რთული, ბუნებრივი ფონზე. ექვსი თვის წინ Google-მა გამოუშვა აპლიკაცია სმარტფონებისთვის, რომელსაც შეუძლია 20-ზე მეტი ტექსტის თარგმნა უცხო ენებიფოტოების, საგზაო ნიშნების ან ხელნაწერი ტექსტის სიტყვების წაკითხვით!

ეს ყველაფერი შესაძლებელი გახდა მას შემდეგ, რაც გაირკვა, რომ ზოგიერთი ძველი იდეა ამ სფეროში ნერვული ქსელები, თუ ისინი ოდნავ შეცვლილია „სიცოცხლის“ დამატებით, ე.ი. ადამიანისა და ცხოველების აღქმის დეტალების პროექციამ შეიძლება გამოიწვიოს განსაცვიფრებელი შედეგი, რომელსაც არავინ ელოდა. ამჯერად ხელოვნური ინტელექტის რევოლუცია ნამდვილად რეალური ჩანს.

მანქანური სწავლის სფეროში ნერვული ქსელების კვლევა უმეტეს შემთხვევაში ყოველთვის ეძღვნებოდა ახალი ამოცნობის ტექნიკის ძიებას. სხვადასხვა სახისმონაცემები. ამრიგად, კამერასთან დაკავშირებულმა კომპიუტერმა, გამოსახულების ამოცნობის ალგორითმის გამოყენებით, უნდა შეძლოს ცუდი ხარისხის სურათის გარჩევა. ადამიანის სახე, ჭიქა ჩაი ან ძაღლი. თუმცა, ისტორიულად, ამ მიზნებისთვის ნერვული ქსელების გამოყენებას თან ახლავს მნიშვნელოვანი სირთულეები. უმნიშვნელო წარმატებაც კი მოითხოვდა ადამიანის ჩარევას - ხალხი დაეხმარა პროგრამას განსაზღვრაში მნიშვნელოვანი თვისებებისურათები, როგორიცაა გამოსახულების საზღვრები ან მარტივი გეომეტრიული ფორმები. არსებულმა ალგორითმებმა თავად ვერ ისწავლეს ამის გაკეთება.

ვითარება მკვეთრად შეიცვალა იმის წყალობით, რომ შეიქმნა ე.წ ნერვული ქსელები ღრმა სწავლით, რომელსაც ახლა შეუძლია სურათის ანალიზი თითქმის ისეთივე ეფექტურად, როგორც ადამიანს. ასეთი ნერვული ქსელებიგამოიყენეთ უხარისხო სურათი, როგორც შემავალი პირველი დონის „ნეირონებში“, რომელიც შემდეგ გადასცემს „სურათს“ არაწრფივი კავშირების მეშვეობით მომდევნო დონის ნეირონებზე. გარკვეული ვარჯიშის შემდეგ, "ნეირონები" უფრო მეტია მაღალი დონეებიშეუძლია გამოსახულების უფრო აბსტრაქტული ასპექტების გამოყენება ამოცნობისთვის. მაგალითად, მათ შეუძლიათ გამოიყენონ ისეთი დეტალები, როგორიცაა გამოსახულების საზღვრები ან სივრცეში მისი მდებარეობის მახასიათებლები. გასაოცარია, რომ ასეთ ქსელებს შეუძლიათ ისწავლონ გამოსახულების ყველაზე მნიშვნელოვანი მახასიათებლების შეფასება ადამიანის დახმარების გარეშე!

ღრმა სწავლის ნერვული ქსელების გამოყენების შესანიშნავი მაგალითია იდენტური ობიექტების ამოცნობა, გადაღებული სხვადასხვა კუთხიდან ან სხვადასხვა პოზები(თუ ჩვენ ვსაუბრობთადამიანის ან ცხოველის შესახებ). ალგორითმები, რომლებიც იყენებენ პიქსელ-პიქსელ სკანირებას, "თვლიან", რომ ისინი უყურებენ ორ განსხვავებულ სურათს, ხოლო "ჭკვიანი" ნერვული ქსელები "ესმით", რომ ისინი უყურებენ ერთსა და იმავე ობიექტს. და პირიქით - ორი სხვადასხვა ჯიშის ძაღლის გამოსახულება, გადაღებული ერთსა და იმავე პოზაში, წინა ალგორითმებით შეიძლება აღიქმებოდეს, როგორც ერთი და იგივე ძაღლის ფოტო. ნერვული ქსელებიღრმა სწავლით შეუძლია სურათებში დეტალების ამოცნობა, რაც დაეხმარება მათ განასხვავონ ცხოველები.

ღრმა სწავლის ტექნიკის, მოწინავე ნეირომეცნიერების ცოდნისა და ძალის შერწყმა თანამედროვე კომპიუტერებიხსნის ხელოვნური ინტელექტის პერსპექტივას, რომლის შეფასებაც ჯერ არ შეგვიძლია. სიმართლე უკვე აშკარაა, რომ გონებას შეიძლება ჰქონდეს არა მხოლოდ ბიოლოგიური ბუნება.