日本語タイトル#
SleepDIFFormer:多変量微分 Transformer による睡眠段階分類
英文タイトル#
SleepDIFFormer: Sleep Stage Classification via Multivariate Differential Transformer
日本語摘要#
睡眠段階の分類は、睡眠の質を評価し、睡眠障害を診断するために重要です。しかし、各段階の脳波(EEG)特性を手動で検査することは時間がかかり、人的エラーが発生しやすいです。機械学習や深層学習の手法は積極的に開発されていますが、異なる領域(すなわちデータセット)における脳波(EEG)や眼電図(EOG)信号の非定常性や変動性からの課題に直面しており、しばしば一般化能力が低下します。本研究では、共同 EEG および EOG 表現学習のために多変量微分 Transformer(SleepDIFFormer)を開発することで、睡眠段階分類手法を提案します。具体的には、SleepDIFFormer は、我々の多変量微分 Transformer アーキテクチャ(MDTA)を使用して EEG および EOG 信号を処理するために開発され、クロスドメインアライメントで訓練されます。我々の手法は、特徴分布のアライメントを通じてドメイン不変の共同 EEG-EOG 表現を学習する際に、空間的および時間的注意ノイズを軽減し、見たことのないターゲットデータセットへの一般化を可能にしました。実証的に、我々は 5 つの異なる睡眠段階データセットで我々の手法を評価し、既存のアプローチと比較して最先端の性能を達成しました。また、SleepDIFFormer の包括的な消融分析を行い、微分注意重みを解釈し、特徴的な睡眠 EEG パターンとの関連性を強調しました。これらの発見は、自動化された睡眠段階分類の進展と睡眠の質評価への応用に重要な意義を持っています。我々のソースコードはhttps://github.com/Ben1001409/SleepDIFFormer で公開されています。
英文摘要#
Classification of sleep stages is essential for assessing sleep quality and diagnosing sleep disorders. However, manual inspection of EEG characteristics for each stage is time-consuming and prone to human error. Although machine learning and deep learning methods have been actively developed, they continue to face challenges from the non-stationarity and variability of electroencephalography (EEG) and electrooculography (EOG) signals across different domains (i.e., datasets), often leading to poor generalization. This work proposed a Sleep Stage Classification method by developing Multivariate Differential Transformer (SleepDIFFormer) for joint EEG and EOG representation learning. Specifically, SleepDIFFormer was developed to process EEG and EOG signals using our Multivariate Differential Transformer Architecture (MDTA) for time series, trained with cross-domain alignment. Our method mitigated spatial and temporal attention noise while learning a domain-invariant joint EEG-EOG representation through feature distribution alignment, thereby enabling generalization to unseen target datasets. Empirically, we evaluated our method on five different sleep staging datasets and compared it with existing approaches, achieving state-of-the-art performance. We also conducted a thorough ablation analysis of SleepDIFFormer and interpreted the differential attention weights, highlighting their relevance to characteristic sleep EEG patterns. These findings have implications for advancing automated sleep stage classification and its application to sleep quality assessment. Our source code is publicly available at https://github.com/Ben1001409/SleepDIFFormer
文章ページ#
SleepDIFFormer:多変量微分 Transformer による睡眠段階分類
PDF 获取#
抖音でスキャンしてさらに素晴らしいコンテンツを見る