Tantangan Pengelolaan Data di Era Digital

Posted in: Data  
Tags: ETL   Data Lake   Data Warehouse   Strategy  
Author: | | 3 minutes reading time

Artikel KR

Organisasi menghadapi tantangan yang semakin kompleks di era digital ini. Era digital merupakan era yang ditandai dengan masifnya penggunaan teknologi berbasis peranti digital elektronik yang memproses angka 0 dan 1 sebagai penanda hidup - mati atau on - off. Peranti digital elektronik sejak dahulu dikenal dengan istilah komputer dan saat ini sudah menunjuk ke berbagai perangkat serta sistem berbasis komputer dalam berbagai skala, mulai dari skala kecil (sub–0.1-mm3) yang bisa diinjeksikan ke dalam tubuh manusia (Shi, 2021) sampai dengan peranti berkapasitas besar yang digunakan dalam suatu data center. Pada era ini, software dan data sedemikian masif digunakan untuk membantu manusia dalam melakukan berbagai aktivitas.

Pada era ini, organisasi harus menyadari bahwa keunggulan kompetitif mereka akan berada pada kemampuan untuk adaptasi software serta data. Tantangan utama dari organisasi adalah kemampuan untuk bergerak dengan cepat dan menuju ke arah yang benar, atau setidaknya memberi implikasi yang baik bagi keberadaan organisasi. Untuk dua hal tersebut, data dan pengelolaannya merupakan komponen yang sangat penting. Beberapa tantangan yang akan dihadapi oleh organisasi akan diuraikan berikut ini.

  1. Ketersediaan data. Di era digital, banyak data yang tersedia secara bebas di eksternal organisasi, baik dalam bentuk mentah (raw - dalam bentuk halaman Web yang harus di-scrap) maupun dalam bentuk yang sudah diolah dari sumber-sumber resmi (https://data.go.id/ misalnya). Dari sisi internal, DBMS serta pemanfaatan sensor dan IoT merupakan sumber pemerolehan data. Ketersediaan data yang melimpah ini menjadi tantangan tersendiri untuk memilah data yang akan dimanfaatkan.
  2. Strategi data. Strategi data terkait dengan pemerolehan, penggunaan, serta pengaturan siklus hidup data. Strategi data ini dipicu oleh kebutuhan informasi suatu organisasi. Tantangan dari strategi data ini adalah kemampuan mendefinisikan kebutuhan informasi untuk seluruh organisasi. Selain itu, diperlukan wawasan terhadap kebutuhan informasi yang bisa jadi akan berubah seiring dengan perkembangan organisasi dan ketersediaan data.
  3. Arsitektur data. Arsitektur data berkaitan dengan bagaimana strategi data yang sudah didefinisikan akan diimplementasikan. Untuk implementasi strategi data ini, ada 3 hal yang menjadi perhatian utama yaitu ETL (Extract, Transform, Load). Extract terkait dengan pemerolehan data (dari sumber internal - termasuk legacy data - maupun eksternal). Transform terkait dengan pembersihan serta agregasi data untuk kemungkinan pengolahan lebih lanjut. Load terkait dengan memasukkan data ke dalam data warehouse atau data lake untuk keperluan aktivitas analisis data maupun sains data. Unsur lain yang harus diantisipasi oleh arsitektur data adalah hirarki, klasifikasi, dan akses data.
  4. Biaya infrastruktur. Pengelolaan data menghendaki adanya infrastruktur yang tangguh. Idealnya, organisasi mempunyai data center sendiri dengan menggunakan infrastruktur private cloud tetapi hal ini menuntut biaya yang (sangat) tinggi. Cara lain yang bisa digunakan adalah dengan layanan dari penyedia cloud (Talend, Snowflake, Azure Purview, dan lain-lain).
  5. Kebutuhan SDM. Mengelola data memerlukan SDM dengan keahlian yang memadai serta sensitivitas terhadap data. Skill di bidang sistem terdistribusi, teknologi data, serta programming merupakan skill kunci dari profesi data engineer yang merupakan profesi yang paling terkait dengan pengelolaan data di era digital.

Pengelolaan data di era digital memang mendatangkan tantangan tersendiri. Secara umum, perlu diketahui kebutuhan informasi untuk organisasi pada berbagai levelnya, menentukan strategi data, membangun arsitektur data untuk organisasi berdasarkan kebutuhan informasi organisasi yang mencakup berbagai data legacy serta data penting lain, dan kemudian mengimplementasikan arsitektur tersebut. Tidak mudah memang, tetapi bisa dilakukan.

Catatan: artikel ini telah diterbitkan di koran KR - Rubrik Pendidikan - 25 Maret 2022