Kit Komputasi LLM630

GARIS BESAR

LLM630 Compute Kit adalah platform pengembangan inferensi model bahasa besar AI yang dirancang untuk komputasi tepi dan aplikasi interaksi cerdas. Motherboard kit ini dilengkapi dengan prosesor SoC Aixin AX630C, yang mengintegrasikan NPU efisiensi tinggi dengan daya komputasi 3.2 TOPs@INT8, memberikan kemampuan inferensi AI yang canggih untuk mengeksekusi tugas-tugas visi kompleks (CV) dan model bahasa besar (LLM) secara efisien, memenuhi kebutuhan berbagai skenario aplikasi cerdas. Motherboard juga dilengkapi dengan chip Ethernet gigabit JL2101-N040C dan chip komunikasi nirkabel ESP32-C6, yang mendukung Wi-Fi 6@2.4G, yang digunakan sebagai kartu jaringan perangkat, menyediakan kemampuan transmisi data berkecepatan tinggi dan mencapai fungsionalitas penjembatanan Wi-Fi dan Ethernet. Baik melalui koneksi kabel untuk pertukaran data skala besar maupun melalui komunikasi nirkabel untuk interaksi waktu nyata dengan server jarak jauh atau perangkat pintar lainnya, platform ini memastikan interaksi data yang efisien. Motherboard ini juga mengintegrasikan antarmuka antena SMA untuk meningkatkan stabilitas sinyal nirkabel dan jarak transmisi, memastikan komunikasi yang stabil di lingkungan jaringan yang kompleks. Motherboard ini dilengkapi memori LPDDR4 4GB bawaan (2GB untuk penggunaan pengguna, 2GB khusus untuk akselerasi perangkat keras) dan penyimpanan eMMC 32GB, yang mendukung pemuatan paralel dan inferensi beberapa model, memastikan pemrosesan tugas yang efisien dan lancar.
Papan dasar, yang melengkapi papan utama dengan sempurna, secara signifikan memperluas fungsionalitas dan penerapan LLM630 Compute Kit. Papan ini mengintegrasikan sensor enam sumbu BMI270, yang memberikan kemampuan penginderaan posisi dan deteksi gerakan yang presisi, cocok untuk berbagai aplikasi dinamis. NS4150B Kelas D bawaan ampAntarmuka amplifier, mikrofon, dan speaker mendukung input suara dan output audio berkualitas tinggi, mencapai mode komunikasi dupleks penuh, yang meningkatkan pengalaman interaksi pengguna. Baseboard juga dilengkapi antarmuka Grove ganda dan antarmuka LCD/DSI serta CAM/CSI MIPI, yang memfasilitasi perluasan periferal seperti layar dan modul kamera. Selain itu, baseboard mengintegrasikan antarmuka antena eksternal dan port gigabit Ethernet, menyediakan koneksi jaringan yang fleksibel dan kinerja nirkabel yang ditingkatkan untuk perangkat. Lebih lanjut, tombol pengguna perangkat memungkinkan fungsi-fungsi seperti daya hidup/mati dan peralihan mode, meningkatkan kegunaan dan interaktivitas perangkat. Chip pengisian daya dan soket baterai cadangan pada baseboard mendukung konfigurasi baterai khusus, memastikan platform dapat berjalan stabil untuk waktu yang lama bahkan tanpa daya eksternal. Chip deteksi baterai terintegrasi memantau status baterai secara real-time. Slot kartu MicroSD mendukung perluasan penyimpanan, serta dukungan di masa mendatang untuk fungsi pembaruan model AI. Antarmuka USB Tipe-C ganda tidak hanya mendukung transmisi data yang efisien tetapi juga menyediakan fungsionalitas OTG, membuat koneksi perangkat lebih fleksibel dan memastikan efisiensi tinggi dalam pertukaran data dan koneksi perangkat.
LLM630 Compute Kit mendukung kerangka kerja StackFlow, yang memungkinkan pengembang untuk dengan mudah mengimplementasikan aplikasi cerdas edge hanya dengan beberapa baris kode, dan dengan cepat meluncurkan berbagai tugas AI. Platform ini mendukung berbagai aplikasi AI, termasuk pengenalan visual, pengenalan ucapan, text-to-speech, dan pengenalan kata bangun, serta mendukung pemanggilan terpisah atau alur otomatis pipeline, yang memudahkan pengembangan. Platform ini juga mendukung model vision seperti Yolo11 DepthAnything, model besar multi-moda seperti InternVL2.5-1B, model bahasa besar seperti Qwen2.5-0.5/1.5B Llama3.2-1B, dan model ucapan seperti Whisper Melotts, yang mendukung pembaruan terkini. Platform ini akan terus mendukung model-model besar populer tercanggih di masa mendatang, memberdayakan pengenalan dan analisis cerdas, memastikan platform ini tetap mengikuti perkembangan teknologi dan tren komunitas. LLM630 Compute Kit cocok untuk berbagai bidang seperti pemantauan keamanan, penjualan cerdas, pertanian cerdas, kendali rumah cerdas, robot interaktif, dan pendidikan, menyediakan kemampuan komputasi canggih dan perluasan yang fleksibel untuk aplikasi cerdas tepi.

1.1. Kit Komputasi LLM630
1. Kemampuan Komunikasi

• Jaringan Kabel: Dilengkapi dengan chip Gigabit Ethernet JL2101-N040C untuk pertukaran data berkecepatan tinggi.
• Jaringan Nirkabel: Mengintegrasikan chip ESP32-C6 yang mendukung Wi-Fi 6 (2.4GHz) dan BLE, memastikan interaksi data nirkabel yang efisien.
• Fungsi Jembatan: Memungkinkan penjembatanan Ethernet-ke-Wi-Fi, memfasilitasi transmisi data di berbagai lingkungan jaringan.
• Antarmuka Antena Eksternal: Konektor SMA untuk antena eksternal, meningkatkan stabilitas sinyal nirkabel dan jangkauan transmisi.

2. Prosesor dan Kinerja

• SoC Utama: AX630C dari AXERA, dilengkapi dual-core Cortex-A53 (1.2GHz).
• NPU (Neural Processing Unit): Menyediakan daya komputasi 3.2 TOPS@INT8 (1.2T@FP16), secara efisien menangani tugas inferensi AI (misalnya, visi komputer dan inferensi model bahasa besar).
• Paralelisme Multi-Model: Kemampuan pemrosesan yang kuat mendukung pemuatan dan pengoperasian beberapa model secara bersamaan, ideal untuk skenario kecerdasan tepi yang kompleks.

3. Tampilan dan Input

• Sensor: Sensor enam sumbu BMI270 terintegrasi (akselerometer + giroskop) untuk deteksi gerakan dan penginderaan postur.
• Suara:
  • NS4150B Kelas D bawaan amppengangkat
  • Antarmuka mikrofon dan speaker onboard untuk I/O audio berkualitas tinggi dan komunikasi suara dupleks penuh
• Antarmuka:
  • LCD/DSI (MIPI) untuk tampilan eksternal
  • CAM/CSI (MIPI) untuk modul kamera
• Tombol Pengguna: Menyediakan kontrol daya, peralihan mode, dan meningkatkan interaktivitas perangkat.

4. Memori

• RAMnya:
  • Total 4GB LPDDR4 (2GB untuk sistem pengguna, 2GB didedikasikan untuk akselerator perangkat keras seperti NPU)
• Penyimpanan:
  • eMMC 32GB untuk OS, model AI, dan data aplikasi
  • Slot kartu MicroSD untuk penyimpanan yang diperluas dan pembaruan model AI di masa mendatang

5. Manajemen Daya

• Dukungan Baterai:
  • Chip pengisian daya onboard dan konektor baterai untuk konfigurasi baterai yang dapat disesuaikan
  • Chip pemantauan daya memberikan umpan balik status baterai secara real-time
• Catu Daya:
  • Mendukung input daya USB Tipe-C
  • Dapat beroperasi dengan daya baterai untuk waktu pengoperasian yang lebih lama tanpa daya eksternal

6. Pin GPIO dan Antarmuka yang Dapat Diprogram

• Antarmuka Ekspansi:
  • Dua port Grove untuk koneksi mudah ke sensor dan periferal
  • Antarmuka MIPI DSI/CSI untuk layar dan kamera
  • Dua port USB Type-C untuk transfer data berkecepatan tinggi dan fungsi OTG, meningkatkan konektivitas
• Pengembangan dan Pemrograman:
  • Kompatibel dengan kerangka kerja StackFlow M5Stack, memungkinkan pengembangan aplikasi AI edge yang cepat dengan pengkodean minimal
  • Mendukung berbagai algoritma dan model AI untuk penglihatan, ucapan, teks, dan banyak lagi

7. Lainnya

• Dukungan Model AI:
  • Model yang sudah dimuat atau dapat dimuat seperti Yolo11, DepthAnything untuk penglihatan, InternVL2.5-1B untuk multimodal, dan besar
  • model bahasa (Qwen2.5-0.5/1.5B, Llama3.2-1B, dll.) ditambah Whisper Melotts untuk ucapan
  • Kemampuan pembaruan panas untuk menjaga platform tetap terkini dengan perkembangan AI terbaru
• Skenario Aplikasi:
  • Cocok untuk pengawasan keamanan, ritel pintar, pertanian pintar, kontrol rumah pintar, robotika interaktif, pendidikan, dan banyak lagi
  • Menawarkan komputasi yang kuat dan ekspansi yang fleksibel untuk berbagai kasus penggunaan AIoT
• Dimensi dan Berat Perangkat: Faktor bentuk yang ringkas untuk integrasi mudah ke dalam berbagai aplikasi dan pembuatan prototipe yang cepat.

SPESIFIKASI

2.1. Spesifikasi

Parameter dan Spesifikasi	Nilai
Prosesor	AX6300Dual Cortex A53 1.2 GHz MAKS. 12 TOP @INT8, dan 4 TOP @INT3.2
NPU	3.2 TOP di INT8
RAM	4GB LPDDR4 (memori sistem 2GB + memori khusus akselerasi perangkat keras 2GB)
eMMC	eMMC5 @ 1GB
Jaringan Kabel	IL2101B-N040C @ 1GbE
Jaringan Nirkabel	ESP32-C6 pada Wi-Fi6 2.4G
USB dan UART	CH9102F @ USB ke Port Serial
USB OTG	Host atau Perangkat USB 2.0
Antarmuka Antena	Lubang dalam SMA
Antarmuka Audio	Header MIC dan SPK 5P @ 1.25mm
Tampilan Antarmuka	MIPI DSI lx 2Jalur MAX 1080p 0 30fps 0 1.25mm
Antarmuka Kamera	MIPI CSI lx 4Jalur MAX 4K 0 30fps 0 1.25mm
Fitur Tambahan	LED RGB yang dapat diprogram untuk kontrol daya rendah. buzzer. tombol reset
Manajemen Baterai	Terminal antarmuka baterai spesifikasi 1.25mm
Terminal Antarmuka Baterai	4 motor tanpa inti berkecepatan tinggi
Spesifikasi Baterai yang Kompatibel	Baterai lithium 3.7V (lithium-ion atau lithium-polymer)
Antarmuka USB	2 antarmuka Tvpe-C (transfer data, fungsi OTG)
Masukan Daya USB	Tegangan 5V 0 2A
Antarmuka Hutan	Header PortA 4P 0 2.0 mm (I2C) Header PortC 4P 0 2.0 mm (UART)
Antarmuka Ekspansi Penyimpanan	Slot kartu mikro SD
Antarmuka Fungsi Eksternal	Header FUNC 8P @ 1.25mm untuk membangunkan sistem, manajemen daya, kontrol LED eksternal, dan komunikasi I2C, dll.
Tombol	2 tombol untuk menghidupkan/mematikan, interaksi pengguna, dan fungsi reset
Sensor	BMI270 0 6-sumbu
Pabrikan	M5Stack Technology Co., Ltd

2.2. Ukuran Modul

MULAI CEPAT

3.1. UART

1. Hubungkan antarmuka UART LLM630 Compute Kit ke komputer Anda. Anda dapat menggunakan alat debugging seperti Putty untuk masuk ke terminal perangkat melalui port serial untuk debugging dan kontrol. (Default: 115200bps 8N1, nama pengguna default adalah root, kata sandinya adalah root.)

3.2. Jaringan Ethernet

1. LLM630 Compute Kit menyediakan antarmuka Ethernet untuk kemudahan akses jaringan dan penelusuran kesalahan fungsional.

3.3. Wifi

1. LLM630 Compute Kit dilengkapi ESP32-C6 terintegrasi sebagai chip Wi-Fi, sehingga memudahkan penyambungan ke jaringan nirkabel.
   Lihat langkah-langkah berikut untuk mengaktifkan Wi-Fi dan mengonfigurasi koneksi. Harap pasang antena eksternal SMA yang disertakan sebelum digunakan.

konfigurasi inti

Alat konfigurasi jaringan default dalam LLM630 Compute Kit adalah ntmui. Anda dapat menggunakan alat nmtui untuk mengonfigurasi koneksi Wi-Fi dengan mudah.

nmtui

Peringatan FCC

Perhatian FCC:
Segala Perubahan atau modifikasi yang tidak secara tegas disetujui oleh pihak yang bertanggung jawab atas kepatuhan dapat membatalkan kewenangan pengguna untuk mengoperasikan peralatan.
Perangkat ini mematuhi bagian 15 dari Peraturan FCC. Pengoperasian tunduk pada dua kondisi berikut: (1) Perangkat ini tidak boleh menimbulkan gangguan yang membahayakan, dan (2) perangkat ini harus menerima gangguan apa pun yang diterima, termasuk gangguan yang dapat menyebabkan pengoperasian yang tidak diinginkan.

CATATAN PENTING:
Catatan: Peralatan ini telah diuji dan terbukti mematuhi batasan untuk perangkat digital Kelas B, sesuai dengan bagian 15 Peraturan FCC. Batasan ini dirancang untuk memberikan perlindungan yang wajar terhadap gangguan yang membahayakan dalam instalasi perumahan.
Peralatan ini menghasilkan, menggunakan, dan dapat memancarkan energi frekuensi radio dan, jika tidak dipasang dan digunakan sesuai dengan petunjuk, dapat menyebabkan gangguan berbahaya pada komunikasi radio. Namun, tidak ada jaminan bahwa gangguan tidak akan terjadi pada pemasangan tertentu. Jika peralatan ini menyebabkan gangguan berbahaya pada penerimaan radio atau televisi, yang dapat dipastikan dengan mematikan dan menghidupkan peralatan, pengguna dianjurkan untuk mencoba memperbaiki gangguan tersebut dengan satu atau beberapa tindakan berikut:

• Ubah arah atau pindahkan antena penerima.
• Tingkatkan pemisahan antara peralatan dan penerima.
• Hubungkan peralatan ke stopkontak di sirkuit yang berbeda dari stopkontak yang terhubung ke penerima.
• Hubungi dealer atau teknisi radio/TV yang berpengalaman untuk mendapatkan bantuan.

Pernyataan Paparan Radiasi FCC: Peralatan ini mematuhi batas paparan radiasi FCC yang ditetapkan untuk lingkungan yang tidak terkendali.

Dokumen / Sumber Daya

Kit Komputasi M5STACK LLM630 [Bahasa Indonesia:] Panduan Pengguna M5LLM630COMKIT, 2AN3WM5LLM630COMKIT, Kit Komputasi LLM630, LLM630, Kit Komputasi, Kit

Referensi

• Panduan Pengguna