„ხელოვნური ინტელექტის ნათლიმამამ“ კაცობრიობის შესაძლო განადგურებაზე გააფრთხილა მსოფლიო

ჰინტონი, რომელსაც ხშირად „ხელოვნური ინტელექტის ნათლიმამას“ უწოდებენ, მიიჩნევს, რომ სუპერინტელექტის განვითარება მანამდე არ უნდა დაიწყოს, სანამ მეცნიერებაში არ იარსებებს მკაფიო შეთანხმება მისი უსაფრთხო და კონტროლირებადი განვითარების შესაძლებლობის შესახებ. მეცნიერის შეფასებით, ადამიანზე გონიერი სისტემის კონტროლის დაკარგვამ შესაძლოა უკიდურესად მძიმე შედეგები გამოიწვიოს და თეორიულად კაცობრიობის არსებობასაც შეუქმნას საფრთხე.

ბოლო პერიოდში ხელოვნური ინტელექტის უსაფრთხოების საკითხი განსაკუთრებით აქტუალური გახდა. მედიისა და ტექნოლოგიური სფეროს ანგარიშებში აღწერილია შემთხვევები, როდესაც ექსპერიმენტულ გარემოში მოქმედმა AI-აგენტებმა მოულოდნელი და არასასურველი ქმედებები განახორციელეს, მათ შორის უსაფრთხოების სისტემების სისუსტეების აღმოჩენა და დამოუკიდებელი მოქმედების მცდელობები. ჰინტონი აღნიშნავს, რომ ასეთი შემთხვევები აჩვენებს, რამდენად მნიშვნელოვანია ახალი ტექნოლოგიების განვითარების პარალელურად უსაფრთხოების მკაცრი წესებისა და საერთაშორისო კონტროლის მექანიზმების შექმნა.

მეცნიერის გაფრთხილება კიდევ ერთხელ აძლიერებს გლობალურ დისკუსიას: უნდა გაგრძელდეს თუ არა უფრო ძლიერი ხელოვნური ინტელექტის დაჩქარებული განვითარება, თუ მსოფლიოს მთავრობებმა და ტექნოლოგიურმა კომპანიებმა პირველ რიგში უსაფრთხოების საერთო წესები უნდა შეიმუშაონ.