Memahami AI Stack Modern

Dulu pertanyaannya adalah "Model AI apa yang harus kita gunakan?"
Hari ini pertanyaannya berubah menjadi "Bagaimana kita membangun keseluruhan ekosistem AI?"

Sumber gambar: Rathnakumar Udayakumar, The AI Stack, Substack.

Evolusi AI

Sekitar satu atau dua tahun yang lalu, banyak organisasi menganggap implementasi AI cukup dengan memilih model bahasa terbaik.

OpenAI?

Claude?

Gemini?

Llama?

Padahal model bahasa (LLM) hanyalah pondasi, bukan keseluruhan sistem.

Saat ini AI telah berkembang menjadi sebuah technology stack yang terdiri dari banyak lapisan yang saling terhubung.

AI Modern Adalah Sebuah Stack

1. Large Language Models (LLM)

Model seperti GPT, Claude, Gemini, dan Llama berfungsi sebagai mesin berpikir utama.

Mereka mampu memahami bahasa, menghasilkan teks, membuat kode, hingga membantu proses reasoning.

Namun mereka hanyalah awal dari sebuah sistem AI.

2. Agent Framework

Framework seperti:

LangGraph
CrewAI
AutoGen

memungkinkan AI melakukan tindakan nyata.

Tidak hanya menjawab pertanyaan, tetapi juga:

menjalankan workflow,
menggunakan tools,
mengambil keputusan,
berkolaborasi dengan agent lain.

3. RAG & Embedding

Tanpa RAG, AI hanya mengetahui informasi dari data pelatihannya.

Dengan RAG (Retrieval-Augmented Generation), AI dapat menggunakan:

dokumen perusahaan,
database,
knowledge base,
SOP internal.

Hasilnya menjadi jauh lebih relevan untuk kebutuhan organisasi.

4. MCP (Model Context Protocol)

MCP mulai menjadi standar baru agar AI dapat berkomunikasi dengan berbagai tools secara konsisten.

Misalnya:

GitHub
Database
Slack
Google Drive
Figma
Browser
API internal

Alih-alih membuat integrasi berbeda untuk setiap model, MCP menyederhanakan komunikasi tersebut.

5. Memory & Vector Database

AI tanpa memory akan "lupa" setiap percakapan.

Karena itu dibutuhkan:

Vector Database
Long-term Memory
Context Storage

agar AI memiliki kontinuitas dan memahami konteks pengguna.

6. Security & Observability

Dalam implementasi enterprise, keamanan menjadi prioritas.

Komponen ini mencakup:

Guardrails
Prompt Protection
Monitoring
Tracing
Logging
Evaluation

AI tidak cukup hanya pintar.

AI juga harus dapat dipantau dan dipercaya.

7. Automation

Terakhir, AI perlu menjadi bagian dari proses bisnis.

Tools seperti:

n8n
Airflow
Zapier

memungkinkan AI menjalankan workflow otomatis yang terhubung dengan berbagai sistem.

Tantangan yang Sebenarnya

Banyak organisasi masih bertanya:

Apakah kita harus menggunakan ChatGPT atau Copilot?

Menurut saya, pertanyaan tersebut mulai kehilangan relevansinya.

Tantangan sebenarnya bukan lagi memilih model terbaik.

Melainkan:

Arsitektur seperti apa yang dibutuhkan?
Komponen apa saja yang perlu digunakan?
Bagaimana seluruh komponen tersebut saling terintegrasi?
Bagaimana menjaga keamanan dan skalabilitasnya?

Sumber gambar: Enterprise Knowledge — High-Level Knowledge Intelligence Architecture. https://enterprise-knowledge.com/

Perspektif Saya

AI adalah bagian dari keseluruhan sistem.

Membangun aplikasi AI berarti merancang bagaimana model, data, tools, workflow, keamanan, dan observability dapat bekerja bersama secara efisien.

Model terbaik sekalipun tidak akan memberikan hasil maksimal jika arsitektur di sekitarnya tidak dirancang dengan baik.

Karena pada akhirnya, keberhasilan implementasi AI tidak ditentukan oleh seberapa canggih model yang digunakan.

Dalam beberapa tahun ke depan, saya percaya kebutuhan industri akan bergeser.

Bukan lagi mencari orang yang sekadar mampu menggunakan AI.

Melainkan engineer yang memahami bagaimana membangun AI System secara menyeluruh.

Dan menurut saya, di situlah masa depan AI Engineering berada.

Referensi

Anthropic — Model Context Protocol (MCP)
OpenAI Platform Documentation
LangChain & LangGraph Documentation
CrewAI Documentation
AutoGen Documentation
LangSmith Documentation
Pinecone Documentation
Weaviate Documentation