Airffic InstituteAERIAL PHYSICAL AI

Aerial Physical AI Institute

Vision AI: kaip dronas supranta, ką mato

Skristi neužtenka matyti. Smegenims reikia suprasti, ką jos mato.

Trumpas atsakymas: Dronų Vision AI vystėsi keturiais etapais: ① rasti objektus (aptikimas), ② juos sekti (sekimas), ③ žinoti savo vietą (SLAM, VIO), ④ suprasti nurodymus žodžiais (baziniai modeliai). Dabar stovime ant ④ etapo slenksčio.

Atnaujinta: · 3 min. skaitymoKaip tyrėme →

Sir Airffic GoDaug kas čia paimta iš mokslinių darbų, bet žodžiai paprasti. Neatsilik!

Keturi supratimo etapai

  1. Aptikimas: rasti vaizde žmones, automobilius ir elektros linijas ir apvesti juos rėmeliais.
  2. Sekimas: stebėti, kur rastas objektas juda toliau.
  3. Savo vietos nustatymas: iš vaizdo judėjimo ir IMU apskaičiuoti, kiek ir kur pajudėjai (VIO – vizualinė-inercinė odometrija).
  4. Supratimas ir nurodymai: suprasti „patikrink už namo raudonu stogu“ ir susieti žodžius su tuo, kas matoma (VLM – DI, kuris kartu tvarko vaizdus ir kalbą).

Skristi kartu kuriant žemėlapį: SLAM ir VIO

2000-ųjų pabaigoje universitetų laboratorijos pradėjo nustatyti mažo drono padėtį vienos kameros ir IMU pagalba. Viskas prasidėjo nuo čia.

Buvo paskelbti tokie metodai kaip SVO, VINS-Mono ir ORB-SLAM, ir jie tapo bendrais pamatais. Atviri tyrimai virto produktų dalimis.

Šiandieniniai komerciniai dronai gali skristi po tiltais ir patalpose būtent dėl šio sukaupto darbo.

Iš viršaus viskas atrodo maža ir iškreipta

DI, apmokytas žemės lygio nuotraukomis, sunkiai supranta vaizdą iš viršaus: žmonės tampa taškais, o automobiliai keičia formą.

Kad būtų galima apmokyti dangui pritaikytą DI, buvo sukurti aerofotografijų duomenų rinkiniai, pavyzdžiui, VisDrone ir DOTA.

Kas valdo duomenis, tas lemia, koks protingas taps DI. Bazinių modelių eroje tai nepasikeitė.

Sir Airffic GoDI skirtumai dažnai priklauso ne tiek nuo algoritmų, kiek nuo to, kiek aerofotografijų duomenų turi. Prisimink tai strategijos skyriuje.

Diena, kai DI įveikė žmonių čempionus

2023 metais Ciuricho universitete sukurtas DI dronas Swift įveikė dronų lenktynių pasaulio čempionus žmones. Darbas paskelbtas žurnale Nature.

Swift savo padėtį nustatė tik kamera ir IMU, o skraidyti išmoko stiprinamojo mokymosi būdu – daugybę kartų treniruodamasis simuliacijoje.

Tai buvo fiksuota trasa. Tokį meistriškumą pakartoti tikrame danguje, kur keičiasi oras ir kliūtys, vis dar yra neišspręstas iššūkis.

Čempionų lygio dronų lenktynės naudojant gilųjį stiprinamąjį mokymąsi (UZH)

Vaizdo įrašas apie DI droną Swift, kurį paskelbė Ciuricho universiteto Robotikos ir suvokimo grupė. YouTube ↗ · Kol nepaspausi paleisti, iš YouTube niekas nekraunama

Kita banga: matyti, mąstyti ir veikti pagal žodžius

Maždaug nuo 2023 metų dideli DI modeliai, kartu tvarkantys vaizdus ir kalbą (baziniai modeliai), pradėjo tarnauti kaip robotų smegenys.

Daugėja dronų tyrimų, kuriuose dronas vykdo žodinius nurodymus ir kartu supranta aplinką (oro vaizdo ir kalbos navigacija).

Dideli modeliai yra sunkūs, ir greitai juos paleisti drone vis dar sunku. Todėl kartu reikia skaityti ir kitą skyrių – apie lustus.

Dažniausi klausimai

Kokiuose darbuose naudojama dronų kompiuterinė rega?

Dažniausiai – ieškant įtrūkimų tiltuose ir elektros linijose, tikrinant pasėlių būklę, ieškant žmonių paieškos ir gelbėjimo operacijose, stebint saugumą ir eismą bei tikrinant pristatymo vietas.

Kas yra vizualinė-inercinė odometrija (VIO)?

Metodas, kuris sujungia vaizdo judėjimą su IMU matuojamu pagreičiu ir sukimusi, kad apskaičiuotų, kiek dronas pajudėjo. Tai pagrindinė technologija skrydžiams be GPS.