Digital UKM
* Penulis Koresponden : rahul@ukm.edu.my
Kata Kunci: Kecerdasan Buatan (AI), Chatbot Tempatan (Local Chatbot), Keselamatan Data (Data Security), RAG (Retrieval-Augmented Generation), LLM Tempatan (Local LLM).
Perkembangan teknologi Kecerdasan Buatan (AI) pada dekad ini telah mengubah cara syarikat beroperasi. Kini, memiliki sistem chatbot bukan lagi satu kemewahan, tetapi satu keperluan asas. Sama ada digunakan untuk menjawab soalan pelanggan, membantu staf mencari maklumat, atau menganalisis data perniagaan, AI bertindak sebagai pembantu digital yang cekap.
Namun, kebanyakan syarikat hari ini bergantung kepada perkhidmatan awan (cloud) dari syarikat gergasi teknologi antarabangsa. Walaupun ia mudah digunakan, pendekatan ini membawa risiko tersendiri. Sebagai alternatif yang lebih selamat, banyak organisasi kini beralih kepada penggunaan Model Bahasa Besar atau LLM (Large Language Model) bersumber terbuka (open-source) dan memadankannya dengan data syarikat secara tempatan (local).
LLM adalah teras utama yang menggerakkan chatbot. Ia merupakan satu model komputer yang telah dilatih dengan jumlah teks yang sangat besar untuk membolehkannya memahami dan menjana ayat manusia dengan natural. Jadi, mengapakah membina chatbot menggunakan LLM dan data secara tempatan jauh lebih baik daripada menggunakan perkhidmatan awan? Berikut adalah lima sebab utamanya.
-
Keselamatan dan Kedaulatan Data Tahap Tertinggi
Apabila syarikat menggunakan chatbot awan awam, setiap soalan atau prom (prompt) yang dimasukkan oleh staf akan dihantar merentasi internet ke pelayan (server) pihak ketiga. Jika staf memuat naik dokumen sulit seperti laporan kewangan, maklumat tersebut terdedah kepada risiko kebocoran.
Dengan penyelesaian tempatan, syarikat memasang perisian AI di dalam pelayan (server) fizikal yang berada di dalam bangunan syarikat itu sendiri. Pendekatan ini dipanggil sebagai on-premise. Kelebihan utamanya adalah data tidak akan pernah keluar daripada sistem keselamatan rangkaian syarikat. Kedaulatan data anda terjamin sepenuhnya. Perkara ini amat penting terutamanya bagi sektor perbankan, perubatan, dan agensi kerajaan yang terikat
- Penjimatan Kos Jangka Panjang yang Ketara
Penyedia AI awan biasanya mengenakan bayaran berasaskan model bayar-mengikut-token (pay-per-token). Token di sini merujuk kepada setiap pecahan perkataan yang anda hantar dan terima daripada chatbot. Bagi syarikat kecil, bil bulanan mungkin rendah. Namun, jika chatbot anda digunakan oleh ribuan pelanggan setiap hari, kos ini boleh mencecah puluhan ribu ringgit.
Apabila anda menggunakan LLM tempatan, anda tidak lagi perlu membayar bil bulanan berdasarkan penggunaan perkataan. Syarikat hanya perlu mengeluarkan modal pada peringkat awal untuk membeli peralatan komputer berkuasa tinggi (seperti kad grafik GPU). Walaupun kos awalnya agak tinggi, ia merupakan perbelanjaan modal yang tetap. Selepas itu, anda bebas menjana berjuta-juta patah perkataan sehari secara “percuma”.
- Kebebasan Penyesuaian (Customization) Tanpa Sekatan
Sistem AI komersial selalunya dilengkapi dengan “pagar keselamatan” (guardrails) yang ketat. Penapisan ini dibuat oleh syarikat pembangun asal agar model mereka tidak mengeluarkan kenyataan kontroversi. Masalahnya, penapisan ini kadangkala terlalu ketat sehinggakan chatbot enggan menjawab soalan teknikal yang sah untuk kegunaan syarikat.
Dengan AI tempatan, anda berkuasa penuh. Anda boleh melakukan proses Latihan Khusus (fine-tuning), iaitu melatih semula model AI tersebut menggunakan data spesifik milik syarikat anda. Ini membolehkan chatbot AI tersebut memahami istilah teknikal industri anda, mengenali produk syarikat, malah meniru gaya bahasa penulisan (tone of voice) jenama anda dengan sempurna.
- Respons Pantas dan Ketersediaan Luar Talian
Chatbot yang bergantung kepada internet luar sangat terdedah kepada gangguan. Jika kabel internet dasar laut terputus, atau pelayan syarikat penyedia AI mengalami kerosakan (downtime), operasi chatbot syarikat anda akan terhenti.
Sistem tempatan menyelesaikan masalah ini sepenuhnya kerana ia bebas internet. Ia boleh beroperasi menggunakan rangkaian tertutup syarikat (intranet). Tambahan pula, masa yang diambil untuk data bergerak antara komputer pengguna dan pelayan—dikenali sebagai kependaman (latency)—adalah sangat rendah. Hasilnya, chatbot dapat memberikan maklum balas dalam sekelip mata tanpa sebarang kelengahan.
- Mengelak Halusinasi dengan Konteks Dalaman (RAG)
Kelemahan paling ketara bagi kebanyakan chatbot adalah sifatnya yang suka berhalusinasi (hallucination). Halusinasi dalam konteks AI bermaksud mesin tersebut memberikan jawapan yang kedengaran sangat meyakinkan tetapi sebenarnya salah atau direka-reka.
Untuk mengatasi masalah ini, syarikat boleh menggunakan teknik RAG (Retrieval-Augmented Generation). Teknik ini bertindak sebagai perpustakaan peribadi untuk AI. Apabila staf bertanyakan sesuatu kepada chatbot, AI tidak akan sekadar meneka. Ia sebaliknya akan mencari jawapan di dalam fail, PDF, atau polisi syarikat yang telah disediakan di dalam pelayan tempatan terlebih dahulu. Kemudian, AI akan membaca fail tersebut dan memberikan jawapan berasaskan fakta syarikat anda yang sebenar.
Kesimpulan
Melabur dalam membina AI menggunakan LLM secara tempatan bukanlah sekadar satu kehendak, tetapi satu perisai untuk melindungi rahsia syarikat. Walaupun ia memerlukan pasukan teknikal atau kakitangan IT untuk kerja-kerja persediaan awal dan penyelenggaraan perkakasan, pulangan jangka panjangnya amat berbaloi. Ia menjanjikan kawalan penuh ke atas data, penjimatan wang yang besar, dan keupayaan untuk menyesuaikan AI mengikut acuan perniagaan anda sendiri. Di era digital ini, memastikan data kritikal kekal di dalam “rumah” sendiri adalah strategi perniagaan yang paling bijak.
Rujukan
1. Othman, A. (2023). Evolusi Kecerdasan Buatan dalam Sektor Korporat Malaysia. Jurnal Teknologi Maklumat. [Pautan Rujukan Contoh]
2. Understanding Large Language Models (LLMs) and Data Privacy. (2024). Tech Insights Asia. [Pautan Rujukan Contoh]
3. Retrieval-Augmented Generation (RAG) Explained. (2023). AI Developer Hub. [Pautan Rujukan Contoh]