Airffic InstituteAERIAL PHYSICAL AI

Aerial Physical AI Institute

Vision AI: cara drone memahami apa yang dilihatnya

Melihat saja tidak cukup untuk terbang. Otak perlu memahami apa yang dilihatnya.

Jawaban singkat: Vision AI drone berkembang dalam empat tahap: ① menemukan benda (deteksi), ② mengikutinya (pelacakan), ③ mengetahui posisi sendiri (SLAM, VIO), ④ memahami perintah dalam kata-kata (model fondasi). Kita sekarang berada di pintu masuk tahap ④.

Diperbarui: · 3 menit bacaCara kami meneliti →

Sir Airffic GoBanyak isinya berasal dari makalah penelitian, tetapi kata-katanya dibuat sederhana. Ikuti aku, ya.

Empat tahap memahami

  1. Deteksi: menemukan orang, mobil, dan kabel listrik dalam gambar, lalu menggambar kotak di sekelilingnya.
  2. Pelacakan: mengikuti ke mana benda yang ditemukan itu bergerak berikutnya.
  3. Menentukan posisi sendiri: menghitung seberapa jauh dan ke mana drone bergerak dari gerakan gambar ditambah IMU (VIO: odometri visual-inersia).
  4. Memahami dan menerima perintah: mengerti "periksa bagian belakang rumah beratap merah" dan menghubungkan kata-kata itu dengan apa yang dilihat (VLM: AI yang mengolah gambar dan bahasa sekaligus).

Terbang sambil membuat peta: SLAM dan VIO

Pada akhir 2000-an, laboratorium universitas mulai menghitung posisi drone kecil hanya dengan satu kamera dan IMU. Semuanya berawal dari sana.

Metode seperti SVO, VINS-Mono, dan ORB-SLAM diterbitkan dan menjadi fondasi bersama. Penelitian terbuka berubah menjadi komponen produk.

Drone komersial masa kini bisa terbang di bawah jembatan dan di dalam gedung berkat tumpukan karya ini.

Dari atas, benda terlihat kecil dan miring

AI yang dilatih dengan foto dari permukaan tanah kesulitan dengan pandangan dari atas: orang jadi titik kecil dan bentuk mobil berubah.

Kumpulan data udara seperti VisDrone dan DOTA dibuat agar AI khusus langit bisa dilatih.

Siapa yang punya data menentukan seberapa pintar AI-nya. Hal ini tidak berubah di era model fondasi.

Sir Airffic GoSelisih kemampuan AI sering kali lebih ditentukan oleh banyaknya data udara yang kamu miliki daripada oleh algoritmanya. Ingat ini untuk bab strategi.

Hari ketika AI mengalahkan juara manusia

Pada 2023, drone AI bernama Swift buatan University of Zurich mengalahkan juara dunia balap drone manusia. Penelitiannya diterbitkan di jurnal Nature.

Swift menghitung posisinya hanya dengan kamera dan IMU, dan belajar terbang lewat reinforcement learning (pembelajaran penguatan) — berlatih berkali-kali dalam simulasi.

Ini terjadi di lintasan yang sudah tetap. Menyamai kemampuan itu di langit sungguhan, dengan cuaca dan rintangan yang berubah-ubah, masih menjadi tantangan terbuka.

Balap drone setingkat juara dengan deep reinforcement learning (UZH)

Video drone AI Swift yang dipublikasikan oleh Robotics and Perception Group, University of Zurich. YouTube ↗ · Tidak ada yang dimuat dari YouTube sampai kamu menekan putar

Gelombang berikutnya: melihat, menalar, dan bertindak sesuai kata-kata

Sejak sekitar 2023, model AI besar yang mengolah gambar dan bahasa sekaligus (model fondasi) mulai dipakai sebagai otak robot.

Penelitian drone yang mengikuti perintah lisan sambil memahami situasi (navigasi visi-bahasa di udara) terus bertambah.

Model besar itu berat, dan menjalankannya dengan cepat di dalam drone masih sulit. Karena itu, bab berikutnya tentang cip perlu dibaca bersamaan.

Pertanyaan yang sering diajukan

Pekerjaan apa saja yang memakai visi komputer drone?

Mendeteksi retakan pada jembatan dan kabel listrik, memeriksa kesehatan tanaman, menemukan orang dalam pencarian dan penyelamatan, memantau keamanan dan lalu lintas, serta memeriksa lokasi pengiriman adalah contoh yang umum.

Apa itu odometri visual-inersia (VIO)?

Metode yang menggabungkan gerakan gambar dengan ukuran percepatan dan putaran dari IMU untuk menghitung seberapa jauh drone bergerak. Ini teknologi dasar untuk terbang tanpa GPS.