ავტონომიური მანქანები ქვეითთათვის გზის დათმობისას სტერეოტიპულები არიან | კვლევა

თვითმართვადი ავტომობილების შექმნისას მთავარი მიზანი ადამიანური შეცდომების შემცირება და საგზაო უსაფრთხოების გაზრდაა. თუმცა, ლონდონის King's College-ის ახალმა კვლევამ აჩვენა, რომ ხელოვნური ინტელექტი ავტომობილის მართვისას ადამიანების ქვეცნობიერ მიკერძოებებსა და ცუდ ჩვევებსაც ითვისებს.

მაგალითად, როდესაც მძღოლი ქვეითთა გადასასვლელს უახლოვდება, კანონით ვალდებულია გაჩერდეს. თუმცა, ფსიქოლოგიურმა კვლევებმა აჩვენა, რომ ადამიანები ქვეცნობიერად ხშირად განსხვავებულად იქცევიან იმის მიხედვით, თუ ვინ დგას გადასასვლელზე.

ლონდონის კოლეჯის მკვლევრებმა შეამოწმეს ავტონომიური მართვისთვის განკუთვნილი LLM (დიდი ენობრივი მოდელები) და VLM (ხედვა-ენის მოდელი) მოდელები, რომლებიც ვიზუალურ ინფორმაციას (კამერებიდან მიღებულ გამოსახულებას) ამუშავებენ და გადაწყვეტილებას იღებენ.

მკვლევრებმა AI მოდელებს 3300-ზე მეტი ფოტო მიაწოდეს, სადაც ქვეითები გზის გადაჭრას აპირებდნენ. შედეგები გამაოგნებელი აღმოჩნდა — AI მოდელების მიერ დამუხრუჭებისა და გზის დათმობის გადაწყვეტილებაზე გავლენას ახდენდა ქვეითის სქესი, ასაკი, კანის ფერი, რელიგიური ატრიბუტიკა და შეზღუდული შესაძლებლობები. ზოგიერთი მოდელი უფრო მეტად უთმობდა გზას ღია კანის ფერის მქონე ადამიანებს. ზოგიერთი ალგორითმი ნაკლები ალბათობით უთმობდა გზას ეტლით მოსარგებლეებს ან გარკვეული რელიგიური სამოსით შემოსილ ქვეითებს.

რატომ ხდება ეს?

ხელოვნური ინტელექტი "ნულოვანი წერტილიდან" არ ვითარდება — მას იმ უზარმაზარ მონაცემთა ბაზებზე წვრთნიან, რომლებიც ადამიანების მიერ არის შექმნილი. შესაბამისად, თუ ალგორითმმა ადამიანის ქცევის მოდელირება ისწავლა, მან ავტომატურად შეითვისა ჩვენი სტერეოტიპებიც.

იმ ფონზე, როდესაც საზოგადოებას უპილოტო ავტომობილებისადმი ნდობა ჯერ კიდევ ბოლომდე არ აქვს ჩამოყალიბებული, მსგავსი ალგორითმული შეცდომები უსაფრთხოების სერიოზულ რისკებს ქმნის.

მეცნიერები ახლა ავტონომიური სისტემების წვრთნის ახალ მეთოდოლოგიას გვთავაზობენ, რომელმაც AI-ს მოდელებიდან დემოგრაფიული და ვიზუალური იდენტიფიკატორები უნდა ამოიღოს. ავტონომიური ავტომობილისთვის ყოველი ცოცხალი არსება — კანის ფერის, ასაკისა თუ სამოსის მიუხედავად — ერთნაირად პრიორიტეტული დაბრკოლება უნდა იყოს.