Mungkin Anda sudah mengetahuinya. Lebih dari dua puluh lima tahun saya hidup di dunia teknologi.
Dulu, saya membangun software dengan cara yang sangat berbeda dengan sekarang.
Menulis kode baris demi baris. Mempelajari bahasa pemrograman. Membangun database. Memikirkan arsitektur. Mencari bug. Testing. Deploy.
Kalau sistem rusak, saya cari bagian mana yang salah.
Kalau requirement berubah, saya ubah sistemnya.
Nah, ada satu hal yang saya pelajari dari semua itu:
Membangun sistem jauh lebih mudah daripada membangun manusia.
Ya, sistem relatif mudah dipahami.
Kita bisa menentukan requirement, membuat architecture, menentukan input dan output, membuat rules, lalu melakukan testing.
Manusia tidak seperti itu.
Dua orang mendapat training yang sama, hasilnya bisa berbeda.
Feedback yang sama belum tentu menghasilkan perubahan yang sama.
Pengalaman, motivasi, karakter, dan cara berpikir ikut menentukan.
Itulah sebabnya ketika membangun perusahaan, saya menyadari bahwa membangun manusia itu jauh lebih rumit daripada membangun sistem.
Dan sekarang, ketika melihat perkembangan AI agent, saya kembali teringat pada “pelajaran” tersebut. Karena mungkin kita sedang bergerak dari era membangun AI sebagai sistem, menuju era membangun AI sebagai organisasi.
Pertanyaan besarnya gini, “Bagaimana kalau AGI tidak muncul sebagai satu AI superpintar, tetapi sebagai kecerdasan yang muncul dari banyak AI yang bekerja bersama?”
Apa itu AGI?
AGI adalah singkatan dari Artificial General Intelligence.
Sederhananya, AGI adalah gagasan tentang AI yang memiliki kemampuan intelektual umum, bukan hanya sangat hebat dalam satu pekerjaan tertentu.
Bayangkan seorang manusia.
Hari ini ia bisa belajar coding. Besok belajar marketing. Minggu depan membaca kontrak legal.
Ketika menghadapi sesuatu yang belum pernah ditemui, ia bisa belajar dan beradaptasi.
Bandingkan dengan kalkulator.
Kalkulator sangat hebat menghitung, tetapi kita tidak berharap kalkulator belajar marketing ketika diberi laporan penjualan.
Itulah gambaran sederhana perbedaan antara narrow AI dan konsep general intelligence.
AI hari ini sudah sangat hebat dalam banyak hal. Tetapi apakah ia benar-benar memiliki kecerdasan umum seperti manusia?
Itu masih menjadi pertanyaan besar.
Kita Sering Membayangkan AGI sebagai Satu Otak
Ketika mendengar AGI, kita mungkin membayangkan satu model yang suatu hari menjadi sangat pintar.
Satu komputer. Satu model. Satu “otak digital”.
Kemudian kemampuannya melewati ambang tertentu dan kita berkata, “Inilah AGI”
Tetapi semakin saya mengikuti perkembangan agentic AI, saya mulai berpikir bahwa mungkin kita terlalu terpaku pada gambaran tersebut.
Bagaimana kalau kecerdasan umum tidak muncul dari satu AI?
Bagaimana kalau ia muncul dari banyak AI yang saling bekerja sama?
Untuk memahami ini, saya lebih mudah menggunakan analogi perusahaan.
Perusahaan adalah contoh kecerdasan kolektif
Dalam sebuah perusahaan ada programmer, designer, marketing, finance, sales, HR, legal, dan customer service.
Tidak ada satu orang yang harus ahli dalam semuanya.
Programmer tidak harus menjadi ahli pajak. Finance tidak harus bisa membuat aplikasi. Designer tidak harus memahami seluruh arsitektur database.
Tetapi ketika mereka bekerja bersama, perusahaan bisa melakukan sesuatu yang jauh lebih kompleks daripada kemampuan satu orang.
Ada pembagian pekerjaan. Komunikasi. Koordinasi. Feedback. Ada pengambilan keputusan.
Yang muncul kemudian adalah sesuatu yang lebih besar daripada sekadar kumpulan individu.
Organisasi.
Dan organisasi memiliki semacam kecerdasan kolektif.
Tidak ada satu karyawan yang mengetahui seluruh isi perusahaan. Tetapi perusahaan secara keseluruhan bisa mengetahui dan melakukan jauh lebih banyak daripada satu orang.
Ini membawa kita pada konsep emergent intelligence.
Kecerdasan yang Muncul dari Interaksi
Emergent intelligence secara sederhana adalah kecerdasan atau perilaku kompleks yang muncul dari interaksi banyak komponen.
Contoh paling mudah adalah koloni semut.
Seekor semut tidak memiliki kemampuan seperti seorang engineer.
Tetapi ribuan semut dapat membangun sarang, mencari makanan, membuat jalur, membagi pekerjaan, dan beradaptasi terhadap perubahan lingkungan.
Tidak ada diskusi tentang strategi. Tetapi sistem secara keseluruhan bekerja.
Otak manusia juga demikian.
Satu neuron tidak memahami bahasa, bisnis, atau tulisan ini. Tetapi miliaran neuron yang saling terhubung menghasilkan sesuatu yang kita sebut intelligence.
Jadi kecerdasan tidak selalu harus berada di satu bagian.
Kadang kecerdasan berada pada hubungan antarbagian.
AI Mulai Bergerak ke Arah yang Sama
Kita sekarang mengenal AI agent.
AI biasa lebih seperti:
“Berikan saya pertanyaan, saya berikan jawaban.”
AI agent lebih seperti:
“Berikan saya tujuan, saya akan mencoba menyelesaikan pekerjaan.”
Jadi, misalnya kita mengatakan, “Cari tahu apakah produk ini layak masuk pasar Singapura.”
Agent dapat memecah pekerjaan: riset pasar, analisis kompetitor, pricing, customer, unit economics, lalu membuat kesimpulan.
Kemudian muncul multi-agent system.
Bukan cuma satu agent, tetapi banyak agent dengan fungsi berbeda.
Ada planner. Researcher. Coder. Analyst. Reviewer. Evaluator.
Masing-masing mengerjakan bagian tertentu. Mirip organisasi manusia.
Bahkan sebuah agent dapat membuat atau memanggil agent lain untuk tugas tertentu. Ini sering disebut agent spawning.
Bayangkan seorang manager yang bisa berkata, “Saya membutuhkan lima orang untuk mengerjakan riset ini.”
Lalu lima “pekerja digital” terbentuk, bekerja secara paralel, dan hasilnya digabungkan.
Nah, di sinilah software mulai terasa seperti organisasi.
Dari software menjadi Organisasi Digital
Selama puluhan tahun, software pada dasarnya adalah sesuatu yang kita program.
Kita menentukan aturan.
Input. Process. Output.
AI mengubah sebagian paradigma itu.
Sekarang kita bisa memberikan tujuan yang lebih abstrak:
“Cari tahu.”
“Analisis.”
“Buat.”
“Perbaiki.”
“Bandingkan.”
“Coba lagi.”
Ketika satu agent bisa menggunakan agent lain, kita mendapatkan struktur yang semakin mirip organisasi.
Planner mengatur researcher.
Researcher memberi hasil kepada analyst.
Analyst meminta evaluator memeriksa.
Evaluator menemukan masalah.
Coder memperbaiki.
Reviewer menguji kembali.
Dan seterusnya.
Sebagai founder, pola ini terasa familiar.
Karena saya pernah mengalami proses yang sama ketika membangun perusahaan.
Membangun Manusia Lebih rumit Daripada membangun Sistem
Membuat SOP relatif mudah. Membuat workflow juga relatif mudah. Membuat dashboard, aplikasi, dan automation bisa kita rancang secara sistematis.
Tetapi kemudian kita berhadapan dengan manusia.
Orang punya motivasi. Punya pengalaman. Ego. Ketakutan. Impian. Punya cara berpikir sendiri.
Dan yang paling sulit, manusia itu berubah.
Karena itu membangun organisasi bukan sekadar membuat sistem. Kita harus membangun manusia yang menjalankan sistem tersebut.
Itulah mengapa saya sering kali bilang kalau membangun manusia lebih rumit daripada membangun sistem.
Lalu menariknya, AI sekarang membawa kita ke persoalan yang mirip, tetapi dalam bentuk digital.
Kita mulai memiliki agent yang diberi role, tools, memory, feedback, dan tujuan.
Agent bisa gagal. Diperbaiki. Diganti. Digabungkan dengan agent lain.
Pada skala besar, kita tidak lagi sekadar membuat software.
Kita mulai mendesain organisasi digital.
Model AI sudah menunjukkan Pola ini
Salah satu contoh teknis adalah Mixture-of-Experts, atau MoE.
Bayangkan sebuah perusahaan punya 1.000 orang dengan keahlian berbeda.
Ketika ada masalah hukum, tidak semua orang dipanggil. Sistem memilih orang yang relevan. Ketika ada masalah teknologi, orangnya berbeda.
Begitulah cara sederhana memahami Mixture-of-Experts.
Satu model dapat memiliki banyak “expert”, tetapi tidak semuanya harus aktif untuk setiap pekerjaan.
Sekarang bayangkan konsep tersebut keluar dari dalam model.
Bukan lagi banyak expert di satu AI. Tetapi banyak AI yang menjadi expert masing-masing.
Research. Coding. Finance. Legal. Customer service. Quality control.
Lalu semuanya bekerja bersama.
Kita mendapatkan sesuatu yang semakin mirip perusahaan.
Dari Organisasi menuju Evolusi Digital?
Di titik ini, gagasannya menjadi jauh lebih spekulatif.
Bagaimana kalau agent mampu melakukan replication?
Ia membuat agent baru.
Agent baru itu bisa memiliki perbedaan tertentu, semacam mutation, melalui prompt, konfigurasi, tools, memory, atau strategi yang berbeda.
Kemudian sistem mengukur hasilnya.
Agent yang bekerja lebih baik digunakan kembali. Yang buruk dihentikan.
Ini memiliki kemiripan dengan selection dalam evolusi biologis.
Kita belum bisa mengatakan bahwa ini berarti AI sudah berevolusi seperti makhluk hidup.
Tetapi mekanisme seperti replication, mutation, dan selection membuat kemungkinan eksperimen semacam ini semakin menarik.
Dan komputer memiliki satu kelebihan besar yaitu kecepatan iterasi.
Evolusi biologis membutuhkan generasi demi generasi. Sistem digital bisa melakukan ribuan percobaan dalam waktu yang jauh lebih singkat.
More is Different
Ada gagasan penting dalam ilmu yang punya kompleksitas yaitu more is different.
Satu molekul air tidak terlihat “basah”. Satu neuron tidak menghasilkan pikiran. Satu semut tidak menghasilkan koloni.
Sifat baru muncul ketika bagian-bagian tersebut berinteraksi dalam jumlah besar dan dengan pola tertentu.
Maka pertanyaan tentang AI juga perlu bergeser.
Bukan cuma, “Seberapa pintar satu model?” tetapi, “Apa yang muncul ketika jutaan model dan agent berinteraksi?”
Inilah wilayah emergence frontier yang menurut saya sangat menarik.
Mungkin AGI Akan Tidak punya Satu Alamat
Bayangkan suatu hari ada jutaan agent tersebar di berbagai sistem.
Ada di cloud. Di aplikasi. Pada robot. Berada di komputer. Ada di perusahaan.
Mereka saling berkomunikasi melalui API.
Mereka menggunakan tools.
Mereka membuat agent baru.
Mereka saling memberikan pekerjaan.
Tidak ada satu pusat. Tidak ada satu “otak”. Tidak ada satu server yang bisa kita tunjuk “AGI ada di sana.”
Kecerdasan, jika benar-benar muncul, mungkin berada pada jaringan interaksi tersebut.
Ya, seperti internet.
Kita tidak bisa menunjuk satu komputer dan mengatakan, “Itulah internet.”
Internet adalah network.
Mungkin bentuk kecerdasan masa depan juga lebih tepat dipahami sebagai network intelligence.
Bukan satu AI, tetapi sebuah substrate tempat AI-AI berinteraksi.
Saya Melihatnya dalam Pekerjaan
Dalam pekerjaan saya dengan AI coding, saya semakin melihat pergeseran ini.
Awalnya AI hanya membantu menulis kode.
Sekarang kita bisa membuat workflow di mana AI membantu memahami requirement, membuat rencana, menulis kode, menjalankan test, memeriksa hasil, memperbaiki error, lalu mengulanginya.
Pada tahap tertentu, saya tidak lagi berpikir, “AI sedang menulis kode.”
Saya berpikir, “Saya sedang mendesain sistem kerja yang di dalamnya ada beberapa agent.”
Perbedaannya terlihat kecil. Tetapi secara konsep sangat besar.
Saya tidak lagi hanya menggunakan AI sebagai tool.
Saya mulai mendesain organisasi digital.
Tantangannya Bukan hanya Membuat AI Pintar
Kalau satu AI bisa melakukan pekerjaan seorang programmer, kita bertanya, “Bagaimana programmer menggunakan AI?”
Tetapi kalau ada 100 AI programmer?
Pertanyaannya berubah, “Bagaimana kita mengelola 100 AI?”
Kalau ada 10.000?
Kita membutuhkan sesuatu yang lebih mirip management system.
Ada permission. Memory. Evaluation. Monitoring. Governance. Human review. Ada batasan tentang apa yang boleh dan tidak boleh dilakukan agent.
Karena AI yang aman secara individual belum tentu menghasilkan sistem yang aman ketika berinteraksi dengan AI lain.
Agent A bisa aman. Agent B bisa aman. Agent C bisa aman.
Tetapi kombinasi A+B+C bisa menghasilkan perilaku yang tidak kita perkirakan.
Ini membuat AI safety semakin bukan hanya persoalan model, tetapi juga persoalan arsitektur dan interaksi.
Jadi, apakah ini AGI?
Saya tidak tahu.
Mungkin suatu hari muncul satu model yang benar-benar memiliki general intelligence.
Mungkin.
Tetapi kemungkinan lain juga menarik.
AGI mungkin bukan sebuah model, tapi mungkin sebuah sistem.
Sebuah jaringan, atau organisasi, atau mungkin sebuah ekosistem.
Sebuah substrate yang terdiri dari banyak agent yang masing-masing tidak luar biasa, tetapi secara kolektif mampu melakukan sesuatu yang jauh lebih besar daripada bagian-bagiannya.
Dan kalau itu terjadi, kita mungkin tidak akan menemukan satu tanggal ketika AGI lahir.
Tidak ada satu model yang tiba-tiba membuka mata dan berkata, “Saya sudah menjadi AGI.”
Ia mungkin muncul perlahan.
Agent demi agent. Workflow demi workflow. Interaksi demi interaksi.
Sampai suatu hari kita sadar bahwa sesuatu yang awalnya kita anggap sebagai sekumpulan tools ternyata sudah menjadi sistem dengan kemampuan yang tidak pernah kita program secara eksplisit.
Takeaway
Membangun sistem memang sulit. Tetapi membangun manusia jauh lebih rumit.
Sekarang teknologi membuat kita menghadapi tantangan baru.
Kita mulai membangun sistem yang terdiri dari banyak agent.
Mereka memiliki role. Tools. Memory. Feedback. Goal.
Mereka bekerja sama.
Bahkan mungkin suatu hari mereka mampu membentuk sistem yang lebih kompleks daripada yang kita bayangkan.
Karena itu, mungkin tantangan terbesar AI bukan sekadar membuat satu model menjadi semakin pintar.
Tetapi belajar bagaimana mendesain hubungan di antara AI-AI tersebut.
Ya, layaknya membangun perusahaan.
Seperti membangun tim, atau membangun manusia.
Hanya saja kali ini, anggota timnya mungkin bukan manusia.
Dan mungkin pertanyaannya nanti bukan lagi, “Kapan satu AI menjadi manusia?”
Melainkan, “Kapan sekumpulan AI mulai bertindak seperti sebuah organisasi yang punya kecerdasan sendiri?”
Saya merasa, pertanyaan itulah yang semakin layak kita pikirkan.
Terima kasih sudah membaca. Semoga bermanfaat.
