{"metadata":{"kernelspec":{"language":"python","display_name":"Python 3","name":"python3"},"language_info":{"name":"python","version":"3.11.13","mimetype":"text/x-python","codemirror_mode":{"name":"ipython","version":3},"pygments_lexer":"ipython3","nbconvert_exporter":"python","file_extension":".py"},"kaggle":{"accelerator":"gpu","dataSources":[{"sourceId":10321197,"sourceType":"datasetVersion","datasetId":6390267},{"sourceId":12352953,"sourceType":"datasetVersion","datasetId":7787005},{"sourceId":12635011,"sourceType":"datasetVersion","datasetId":7788263},{"sourceId":12689083,"sourceType":"datasetVersion","datasetId":8018812},{"sourceId":12755908,"sourceType":"datasetVersion","datasetId":8063887},{"sourceId":472053,"sourceType":"modelInstanceVersion","modelInstanceId":378773,"modelId":398885}],"dockerImageVersionId":31089,"isInternetEnabled":true,"language":"python","sourceType":"notebook","isGpuEnabled":true}},"nbformat_minor":4,"nbformat":4,"cells":[{"cell_type":"markdown","source":"\n---\n\n# 🛰 SpectraTransformerDenoiser – Model Card\n\n## 📌 Gambaran Keseluruhan\n\n**SpectraTransformerDenoiser** ialah model berasaskan **Transformer 1D** yang dibangunkan untuk tugas **denoising isyarat deretan masa (time-series)**. Model ini memberi tumpuan kepada pembersihan data saintifik seperti:\n\n* **Spektrum eksoplanet** (projek NeurIPS Ariel Data Challenge 2025)\n* **Isyarat bioperubatan** seperti **MEG** (Magnetoencephalography) dan **EEG**\n\nMatlamat utama model:\n\n1. Meningkatkan **nisbah isyarat kepada bunyi (SNR)**.\n2. Mengurangkan **bunyi latar** tanpa kehilangan ciri penting.\n3. Menyediakan asas untuk **fine-tuning** dalam pelbagai domain.\n\nLesen: **Apache 2.0**\nFramework: **PyTorch**\n\n---\n\n## 📂 Versi Model\n\n### 🔹 Versi 1.0 – SpectraTransformerDenoiser (Asal)\n\n* **Seni bina:** Transformer asas untuk deretan masa.\n* **Fokus:** Denoising spektrum teleskop & data saintifik.\n* **Ciri-ciri:**\n\n  * Peningkatan SNR asas.\n  * Boleh fine-tune untuk dataset lain.\n* **Kegunaan:** Eksperimen awal, eksplorasi penyelidikan.\n\n---\n\n### 🔹 Versi 1.1 – SpectraTransformerDenoiser (Optimized)\n\n* **Seni bina:** Transformer 1D dengan lapisan dioptimumkan.\n* **Penambahbaikan:**\n\n  * Latihan semula dengan strategi regularisasi → mengurangkan overfitting.\n  * Inferens lebih pantas berbanding versi asal.\n* **Fokus:** Spektrum eksoplanet dengan bunyi teleskop.\n* **Kegunaan:** Lebih stabil untuk eksperimen berskala besar.\n\n---\n\n### 🔹 Variasi: MEG Transformer Denoiser – v1.0\n\n* **Seni bina:** Transformer asas (dari SpectraTransformerDenoiser v1.0).\n* **Fokus:** Denoising isyarat **MEG & EEG**.\n* **Ciri-ciri:**\n\n  * Menyaring bunyi pada isyarat bioperubatan.\n  * Meningkatkan kualiti data untuk analisis otak.\n* **Kegunaan:** Penyelidikan neurosains & ujian awal pipeline bioperubatan.\n\n---\n\n### 🔹 Variasi: MEG Transformer Denoiser – v1.1 Optimized\n\n* **Seni bina:** Transformer asas + **optimum parameter & layer norm**.\n* **Penambahbaikan:**\n\n  * **SNR lebih tinggi** → isyarat lebih bersih.\n  * **Masa inferens dikurangkan** → sesuai untuk aplikasi masa nyata.\n  * **Ketepatan terpelihara** → walaupun lebih pantas.\n* **Kegunaan:**\n\n  * Pembersihan data MEG/EEG dalam penyelidikan saintifik.\n  * Integrasi ke pipeline ML/AI kesihatan.\n  * Aplikasi praktikal seperti BCI (Brain-Computer Interface).\n\n---\n\n## 📊 Perbandingan Versi\n\n| Versi              | Fokus               | SNR                 | Masa Inferens | Ketepatan   | Kegunaan                        |\n| ------------------ | ------------------- | ------------------- | ------------- | ----------- | ------------------------------- |\n| v1.0 Asal          | Spektrum saintifik  | Meningkat sederhana | Perlahan      | Stabil      | Eksperimen asas                 |\n| v1.1 Optimized     | Spektrum eksoplanet | Lebih tinggi        | Lebih pantas  | Stabil      | Eksperimen berskala besar       |\n| MEG v1.0           | Isyarat MEG/EEG     | Meningkat sederhana | Perlahan      | Stabil      | Neurosains asas                 |\n| MEG v1.1 Optimized | Isyarat MEG/EEG     | Tinggi              | Pantas        | Terpelihara | Aplikasi praktikal & masa nyata |\n\n---\n\n## ⚙️ Contoh Penggunaan\n\n```python\nimport torch\nfrom torch import nn\n\n# Muatkan model\nmodel = torch.load(\"meg_transformer_denoiser_model_v1_1.pt\", map_location=\"cpu\")\nmodel.eval()\n\n# Input dummy (batch_size=1, sequence_length=1024, features=1)\nx = torch.randn(1, 1024, 1)\n\n# Inferens\nwith torch.no_grad():\n    output = model(x)\n\nprint(output.shape)\n```\n\n---\n\n## 📌 Nota Tambahan\n\n* Semua variasi adalah **fine-tunable** untuk dataset tersuai.\n* Model boleh digunakan sebagai **pra-proses** sebelum analisis atau klasifikasi.\n* Sesuai untuk projek Kaggle, penyelidikan, dan eksperimen dunia sebenar.\n\n---\n\n📦 **Kesimpulan:**\nModel ini berevolusi dari **denoising spektrum saintifik (v1.0)** → ke **versi dioptimumkan (v1.1)** → hingga variasi **bioperubatan MEG/EEG (v1.0 & v1.1 optimized)**. Setiap versi memperbaiki **SNR, kelajuan inferens, dan kesesuaian aplikasi**.\n\n---\n\nRohainiHamat","metadata":{}}]}