ChEMBL IR Raman multiblock — nirs4all-datasets

50,000

samples

1,024

wavelengths

sources

targets

metadata

mixed

family

Dataset property explorer

Mean profile risk0.62

Highest axisIntégrité · 1.00

Diagnostics9

Sources profiled2

Profile axes

Intégrité	1.00
Artefacts locaux	1.00
Bruit	0.01
Outliers PCA	0.84
Distance à la référence	1.00
Répétabilité	0.00
Baseline / forme	0.26
Structure multi-régimes	0.89

Diagnostic	Score	Force	Signaux	Interprétation probable
Splice / raccord détecteursX2	0.94	forte	PCA Q 1.00, Spike rate 1.00, Jump rate 1.00	Rupture aux jonctions de détecteurs, calibration locale ou sonde différente.
Signature VERA25-likeX2	0.79	forte	PCA Q 1.00, Mahalanobis / T2 1.00, Spike rate 1.00	Combinaison possible changement de sonde + splice, amplifiée par géométrie, fond ou calibration.
Erreur interpolation / rééchantillonnageX2	0.78	forte	PCA Q 1.00, Spike rate 1.00, Jump rate 1.00	Artefacts numériques ou traitement spectral incorrect.
Spectre hors domaine valideX2	0.74	forte	Mahalanobis / T2 1.00, RMS/SAM référence 1.00, Structure PCA 1.00	Variété, espèce, lot ou condition différente mais physiquement plausible.
Spectre saturé / clippingX2	0.73	forte	Clip fraction 1.00, PCA Q 1.00, Jump rate 1.00	Détecteur saturé ou dynamique insuffisante.
Dataset multi-régimesX2	0.72	forte	Structure PCA 1.00, RMS/SAM référence 1.00, PCA Q 1.00	Mélange de campagnes, opérateurs, lots, setups ou sous-populations spectrales.
Erreur calibration / référence blancheX1	0.59	moyenne	RMS/SAM référence 1.00, artefacts locaux 1.00, Mahalanobis / T2 0.67	Décalage systématique entre campagnes, instruments ou référence blanche.
Différence de sonde / géométrieX2	0.59	moyenne	PCA Q 1.00, Mahalanobis / T2 1.00, RMS/SAM référence 1.00	Modification de l'illumination, collecte, angle ou distance sonde-échantillon.

Spectral sources

IR

X1 · MIR · Gaussian09 computed spectra

Sampling

Wavelengths	512
Axis range	0–4,000 cm-1
Mean spacing	7.83 cm-1
Grid	uniform
Observations	50,000

Signal & quality

Value range	0 – 2.05e+03
Mean range	0 – 44.8
Mean level	6.908
Area	2.769e+04
PTP	44.85
Noise RMS	0.046204
SNR	1.5e+02
SNR dB	4e+01 dB
Dynamic range	44.8
Smoothness	4.1
Saturated	0.0%
X-outliers	24,430

Integrity & artefacts

NaN ratio	0.00%
Inf count	0
Zero ratio	44.96%
Spike count	6,853,599
Spike rate	26.88%
Jump count	6,995,232
Jump rate	27.38%
Clip fraction	44.96%

Shape & reference

Baseline slope	-10.206
Curvature RMS	3.7468
D1 RMS	4.2658
RMS to mean	10.372
RMS p95	22.667
SAM to mean	0.73247
SAM p95	1.0437
Affine offset p95	3.548
Affine gain p95 Δ	0.95398
Affine residual p95	20.293
Xcorr lag p95	21

Outliers & repeatability

PCA Q p95/median	4.8
Hotelling T2 p95/median	5.4
Mahalanobis H p95/median	2.3
Repeat groups	0

Dimensionality (PCA)

Effective rank	18
Top-10 cum. var	58.5%

Computed metric scores 29worst 1.00

Famille	Métrique calculée	Valeur	Score	Niveau	Interprétation dataset	Causes typiques	Calcul / scoring
Intégrité des données	`NaN ratio`integrity.nan_ratio	0%	0.00	faible	Spectre complet	Erreur acquisition/export	count(isnan(X)) / X.sizealert = min(1, nan_ratio / 0.05)
Intégrité des données	`Inf count`integrity.inf_count	0	0.00	faible	Normal	Calculs invalides	count(isinf(X))alert = min(1, inf_count / 1)
Intégrité des données	`Zero ratio`integrity.zero_ratio	45%	1.00	fort	Spectre tronqué	Export, saturation	count(X == 0) / count(finite X)alert = min(1, zero_ratio / 0.05)
Amplitude globale	`Mean reflectance`amplitude.mean_reflectance	6.9083	0.46	moyen	Valeur atypique: Trop clair / fond visible ou Trop sombre	Fond, géométrie	mean(X finite)alert reuses baseline/shape drift because absolute reflectance ranges are technology-dependent
Amplitude globale	`Area under curve`amplitude.area_under_curve	27687	0.46	moyen	Valeur atypique: Différence d'éclairement ou Normal	Distance sonde	trapezoid(mean_spectrum, spectral_axis)alert reuses baseline/shape drift because area scale depends on axis and units
Amplitude globale	`Peak-to-peak (PTP)`amplitude.peak_to_peak	44.846	0.00	faible	Variabilité forte	Saturation	max(mean_spectrum) - min(mean_spectrum)alert increases when dynamic range is abnormally flat
Amplitude globale	`Variance`amplitude.variance	271.09	0.00	faible	Normal ou hétérogène	Mauvais contact	var(X finite)alert increases when variance/dynamic range is abnormally flat
Bruit	`Noise RMS`noise.noise_rms	0.046204	0.02	faible	Stable	Lampe, détecteur	median MAD(second derivative) * 1.4826 / sqrt(6)alert = noise_rms / signal_scale, saturated at 5%
Bruit	`SNR`noise.snr	149.52	0.00	faible	Bon signal	Acquisition	mean(abs(X)) / noise_rmsalert decreases with SNR dB; >=40 dB is treated as low alert
Bruit	`Bandwise SNR`noise.bandwise_snr_min	14.641	0.33	faible	Zone fiable	Détecteur	min(abs(mean_spectrum) / local second-derivative noise)alert decreases with worst-band SNR dB; >=35 dB is treated as low alert
Artefacts locaux	`Spike count`artefacts.spike_count	6,853,599	1.00	fort	Artefacts	Cosmic rays, splice	count robust outliers in second derivativealert follows spike_rate, saturated at 1%
Artefacts locaux	`Spike rate`artefacts.spike_rate	26.9%	1.00	fort	Spectre suspect	Interpolation	spike_count / (n_samples * (n_features - 2))alert = min(1, spike_rate / 0.01)
Artefacts locaux	`Jump count`artefacts.jump_count	6,995,232	1.00	fort	Raccord détecteur	Splice	count robust outliers in first derivativealert follows jump_rate, saturated at 1%
Artefacts locaux	`Jump rate`artefacts.jump_rate	27.4%	1.00	fort	Problème spectral	Calibration	jump_count / (n_samples * (n_features - 1))alert = min(1, jump_rate / 0.01)
Artefacts locaux	`Clip fraction`artefacts.clip_fraction	45%	1.00	fort	Clipping	Détecteur saturé	fraction of finite cells equal to repeated min/max extremaalert = min(1, clip_fraction / 0.01)
Forme spectrale	`Baseline slope`shape.baseline_slope	-10.206	0.46	moyen	Dérive	Éclairement	linear slope of mean_spectrum over normalized axisalert = abs(slope / signal_scale), saturated at 0.5
Forme spectrale	`Curvature RMS`shape.curvature_rms	3.7468	1.00	fort	Forme inhabituelle	Fond, splice	median RMS(second derivative per spectrum)alert = curvature_rms / signal_scale, saturated at 1%
Forme spectrale	`D1 RMS`shape.d1_rms	4.2658	1.00	fort	Spectre structuré	Biologie ou artefact	median RMS(first derivative per spectrum)alert = d1_rms / signal_scale, saturated at 5%
Outliers multivariés	`PCA Q (SPE)`outliers.pca_q_ratio	4.776	0.60	moyen	Spectre atypique	Artefact, mélange	p95(Q/SPE residual) / median(Q/SPE residual)alert = min(1, pca_q_ratio / 8)
Outliers multivariés	`Hotelling T²`outliers.hotelling_t2_ratio	5.363	0.67	moyen	Extrême mais cohérent	Variabilité naturelle	p95(Hotelling T2) / median(Hotelling T2)alert = min(1, hotelling_t2_ratio / 8)
Outliers multivariés	`Mahalanobis H`outliers.mahalanobis_h_ratio	2.3158	0.58	moyen	Outlier global	Domaine différent	p95(sqrt(T2)) / median(sqrt(T2))alert = min(1, mahalanobis_h_ratio / 4)
Comparaison à référence	`RMS to mean spectrum`reference.rms_to_mean_spectrum_p95	22.667	1.00	fort	Spectre différent	Domain shift	p95 RMS distance to dataset mean spectrumalert = RMS_p95 / signal_scale, saturated at 25%
Comparaison à référence	`Spectral Angle Mapper (SAM)`reference.sam_to_mean_spectrum_p95	1.0437	1.00	fort	Forme différente	Fond, géométrie	p95 spectral angle to dataset mean spectrumalert = min(1, SAM_p95 / 0.35 rad)
Répétabilité	`RMS intra-ID`repeatability.rms_intra_id	—	0.00	faible	Stable	Positionnement	median RMS distance to repeated-sample centroidalert = RMS_intra_ID / signal_scale, saturated at 10%
Répétabilité	`SAM intra-ID`repeatability.sam_intra_id	—	0.00	faible	Stable	Acquisition	median SAM to repeated-sample centroidalert = min(1, SAM_intra_ID / 0.15 rad)
Répétabilité	`CV intra-ID`repeatability.cv_intra_id	—	0.00	faible	Stable	Opérateur	median within-ID band CValert = min(1, CV_intra_ID / 0.25)
Structure du dataset	`PCA score density`structure.pca_score_density	0.0079591	0.77	fort	Sous-populations	Lots différents	1 / median kNN distance in PCA score spacealert follows density_cv/profile structure complexity, not raw density alone
Structure du dataset	`Local Outlier Factor (LOF)`structure.local_outlier_factor_p95	2.3207	0.66	moyen	Spectre isolé	Cas rares	p95 approximate LOF from PCA-score kNN distancesalert = min(1, max(0, LOF_p95 - 1) / 2)
Structure du dataset	`Isolation Forest score`structure.isolation_forest_score_p95	0.5366	0.77	fort	Spectre atypique	Diverses causes	p95 IsolationForest anomaly score on PCA scoresalert follows structure complexity; raw score is implementation-dependent

X-Y spectral correlation 7

Target	max \|r\|	axis @ max	mean \|r\|	\|r\| ≥ .5
band_gap	0.223	814	0.0601	0.0%
dipole_moment_total	0.219	7.83	0.063	0.0%
isotropic_polarizability	0.392	1.5e+03	0.131	0.0%
homo	0.381	2.97e+03	0.0509	0.0%
lumo	0.312	2.97e+03	0.0634	0.0%
electronic_ext	0.401	1.5e+03	0.135	0.0%
heat_capacity	0.418	2.99e+03	0.15	0.0%

Raman

X2 · Raman · Gaussian09 computed spectra

Sampling

Wavelengths	512
Axis range	0–4,000 cm-1
Mean spacing	7.83 cm-1
Grid	uniform
Observations	50,000

Signal & quality

Value range	0 – 616,528
Mean range	0 – 165
Mean level	15.81
Area	6.335e+04
PTP	165.2
Noise RMS	0.052623
SNR	3e+02
SNR dB	5e+01 dB
Dynamic range	165
Smoothness	11.63
Saturated	0.0%
X-outliers	31,249

Integrity & artefacts

NaN ratio	0.00%
Inf count	0
Zero ratio	44.96%
Spike count	6,496,383
Spike rate	25.48%
Jump count	6,951,948
Jump rate	27.21%
Clip fraction	44.98%

Shape & reference

Baseline slope	-4.8221
Curvature RMS	5.2944
D1 RMS	6.437
RMS to mean	25.387
RMS p95	96.842
SAM to mean	0.79647
SAM p95	1.0852
Affine offset p95	10.937
Affine gain p95 Δ	1.8082
Affine residual p95	78.906
Xcorr lag p95	9

Outliers & repeatability

PCA Q p95/median	18
Hotelling T2 p95/median	14
Mahalanobis H p95/median	3.8
Repeat groups	0

Dimensionality (PCA)

Effective rank	3.6
PCs → 95% var	7
PCs → 99% var	24
Top-10 cum. var	96.8%

Computed metric scores 29worst 1.00

Famille	Métrique calculée	Valeur	Score	Niveau	Interprétation dataset	Causes typiques	Calcul / scoring
Intégrité des données	`NaN ratio`integrity.nan_ratio	0%	0.00	faible	Spectre complet	Erreur acquisition/export	count(isnan(X)) / X.sizealert = min(1, nan_ratio / 0.05)
Intégrité des données	`Inf count`integrity.inf_count	0	0.00	faible	Normal	Calculs invalides	count(isinf(X))alert = min(1, inf_count / 1)
Intégrité des données	`Zero ratio`integrity.zero_ratio	45%	1.00	fort	Spectre tronqué	Export, saturation	count(X == 0) / count(finite X)alert = min(1, zero_ratio / 0.05)
Amplitude globale	`Mean reflectance`amplitude.mean_reflectance	15.807	0.06	faible	Trop sombre	Fond, géométrie	mean(X finite)alert reuses baseline/shape drift because absolute reflectance ranges are technology-dependent
Amplitude globale	`Area under curve`amplitude.area_under_curve	63348	0.06	faible	Normal	Distance sonde	trapezoid(mean_spectrum, spectral_axis)alert reuses baseline/shape drift because area scale depends on axis and units
Amplitude globale	`Peak-to-peak (PTP)`amplitude.peak_to_peak	165.15	0.00	faible	Variabilité forte	Saturation	max(mean_spectrum) - min(mean_spectrum)alert increases when dynamic range is abnormally flat
Amplitude globale	`Variance`amplitude.variance	1.3337e+05	0.00	faible	Normal ou hétérogène	Mauvais contact	var(X finite)alert increases when variance/dynamic range is abnormally flat
Bruit	`Noise RMS`noise.noise_rms	0.052623	0.01	faible	Stable	Lampe, détecteur	median MAD(second derivative) * 1.4826 / sqrt(6)alert = noise_rms / signal_scale, saturated at 5%
Bruit	`SNR`noise.snr	300.38	0.00	faible	Bon signal	Acquisition	mean(abs(X)) / noise_rmsalert decreases with SNR dB; >=40 dB is treated as low alert
Bruit	`Bandwise SNR`noise.bandwise_snr_min	10.772	0.41	faible	Zone fiable	Détecteur	min(abs(mean_spectrum) / local second-derivative noise)alert decreases with worst-band SNR dB; >=35 dB is treated as low alert
Artefacts locaux	`Spike count`artefacts.spike_count	6,496,383	1.00	fort	Artefacts	Cosmic rays, splice	count robust outliers in second derivativealert follows spike_rate, saturated at 1%
Artefacts locaux	`Spike rate`artefacts.spike_rate	25.5%	1.00	fort	Spectre suspect	Interpolation	spike_count / (n_samples * (n_features - 2))alert = min(1, spike_rate / 0.01)
Artefacts locaux	`Jump count`artefacts.jump_count	6,951,948	1.00	fort	Raccord détecteur	Splice	count robust outliers in first derivativealert follows jump_rate, saturated at 1%
Artefacts locaux	`Jump rate`artefacts.jump_rate	27.2%	1.00	fort	Problème spectral	Calibration	jump_count / (n_samples * (n_features - 1))alert = min(1, jump_rate / 0.01)
Artefacts locaux	`Clip fraction`artefacts.clip_fraction	45%	1.00	fort	Clipping	Détecteur saturé	fraction of finite cells equal to repeated min/max extremaalert = min(1, clip_fraction / 0.01)
Forme spectrale	`Baseline slope`shape.baseline_slope	-4.8221	0.06	faible	Stable	Éclairement	linear slope of mean_spectrum over normalized axisalert = abs(slope / signal_scale), saturated at 0.5
Forme spectrale	`Curvature RMS`shape.curvature_rms	5.2944	1.00	fort	Forme inhabituelle	Fond, splice	median RMS(second derivative per spectrum)alert = curvature_rms / signal_scale, saturated at 1%
Forme spectrale	`D1 RMS`shape.d1_rms	6.437	0.78	fort	Spectre structuré	Biologie ou artefact	median RMS(first derivative per spectrum)alert = d1_rms / signal_scale, saturated at 5%
Outliers multivariés	`PCA Q (SPE)`outliers.pca_q_ratio	17.864	1.00	fort	Spectre atypique	Artefact, mélange	p95(Q/SPE residual) / median(Q/SPE residual)alert = min(1, pca_q_ratio / 8)
Outliers multivariés	`Hotelling T²`outliers.hotelling_t2_ratio	14.087	1.00	fort	Extrême mais cohérent	Variabilité naturelle	p95(Hotelling T2) / median(Hotelling T2)alert = min(1, hotelling_t2_ratio / 8)
Outliers multivariés	`Mahalanobis H`outliers.mahalanobis_h_ratio	3.753	0.94	fort	Outlier global	Domaine différent	p95(sqrt(T2)) / median(sqrt(T2))alert = min(1, mahalanobis_h_ratio / 4)
Comparaison à référence	`RMS to mean spectrum`reference.rms_to_mean_spectrum_p95	96.842	1.00	fort	Spectre différent	Domain shift	p95 RMS distance to dataset mean spectrumalert = RMS_p95 / signal_scale, saturated at 25%
Comparaison à référence	`Spectral Angle Mapper (SAM)`reference.sam_to_mean_spectrum_p95	1.0852	1.00	fort	Forme différente	Fond, géométrie	p95 spectral angle to dataset mean spectrumalert = min(1, SAM_p95 / 0.35 rad)
Répétabilité	`RMS intra-ID`repeatability.rms_intra_id	—	0.00	faible	Stable	Positionnement	median RMS distance to repeated-sample centroidalert = RMS_intra_ID / signal_scale, saturated at 10%
Répétabilité	`SAM intra-ID`repeatability.sam_intra_id	—	0.00	faible	Stable	Acquisition	median SAM to repeated-sample centroidalert = min(1, SAM_intra_ID / 0.15 rad)
Répétabilité	`CV intra-ID`repeatability.cv_intra_id	—	0.00	faible	Stable	Opérateur	median within-ID band CValert = min(1, CV_intra_ID / 0.25)
Structure du dataset	`PCA score density`structure.pca_score_density	0.065595	1.00	fort	Sous-populations	Lots différents	1 / median kNN distance in PCA score spacealert follows density_cv/profile structure complexity, not raw density alone
Structure du dataset	`Local Outlier Factor (LOF)`structure.local_outlier_factor_p95	19.015	1.00	fort	Spectre isolé	Cas rares	p95 approximate LOF from PCA-score kNN distancesalert = min(1, max(0, LOF_p95 - 1) / 2)
Structure du dataset	`Isolation Forest score`structure.isolation_forest_score_p95	0.57519	1.00	fort	Spectre atypique	Diverses causes	p95 IsolationForest anomaly score on PCA scoresalert follows structure complexity; raw score is implementation-dependent

X-Y spectral correlation 7

Target	max \|r\|	axis @ max	mean \|r\|	\|r\| ≥ .5
band_gap	0.249	3.18e+03	0.0632	0.0%
dipole_moment_total	0.0858	0	0.0162	0.0%
isotropic_polarizability	0.478	0	0.0696	0.0%
homo	0.274	3.12e+03	0.0286	0.0%
lumo	0.221	3.18e+03	0.048	0.0%
electronic_ext	0.384	0	0.0455	0.0%
heat_capacity	0.368	3.12e+03	0.0391	0.0%

Metric interpretation reference

Metric catalog 29

Famille	Métrique	Ce qu’elle détecte	Forte valeur =	Faible valeur =	Causes typiques	Calcul / score
Intégrité des données	`NaN ratio`	Données manquantes	Spectre corrompu	Spectre complet	Erreur acquisition/export	count(isnan(X)) / X.sizealert = min(1, nan_ratio / 0.05)
Intégrité des données	`Inf count`	Valeurs infinies	Corruption	Normal	Calculs invalides	count(isinf(X))alert = min(1, inf_count / 1)
Intégrité des données	`Zero ratio`	Colonnes ou cellules nulles	Spectre tronqué	Normal	Export, saturation	count(X == 0) / count(finite X)alert = min(1, zero_ratio / 0.05)
Amplitude globale	`Mean reflectance`	Niveau moyen	Trop clair / fond visible	Trop sombre	Fond, géométrie	mean(X finite)alert reuses baseline/shape drift because absolute reflectance ranges are technology-dependent
Amplitude globale	`Area under curve`	Intensité globale	Différence d'éclairement	Normal	Distance sonde	trapezoid(mean_spectrum, spectral_axis)alert reuses baseline/shape drift because area scale depends on axis and units
Amplitude globale	`Peak-to-peak (PTP)`	Dynamique	Variabilité forte	Spectre plat	Saturation	max(mean_spectrum) - min(mean_spectrum)alert increases when dynamic range is abnormally flat
Amplitude globale	`Variance`	Variabilité spectrale	Normal ou hétérogène	Spectre plat	Mauvais contact	var(X finite)alert increases when variance/dynamic range is abnormally flat
Bruit	`Noise RMS`	Bruit haute fréquence	Bruité	Stable	Lampe, détecteur	median MAD(second derivative) * 1.4826 / sqrt(6)alert = noise_rms / signal_scale, saturated at 5%
Bruit	`SNR`	Qualité signal	Bon signal	Mauvais signal	Acquisition	mean(abs(X)) / noise_rmsalert decreases with SNR dB; >=40 dB is treated as low alert
Bruit	`Bandwise SNR`	Bruit localisé	Zone fiable	Zone problématique	Détecteur	min(abs(mean_spectrum) / local second-derivative noise)alert decreases with worst-band SNR dB; >=35 dB is treated as low alert
Artefacts locaux	`Spike count`	Pics étroits	Artefacts	Spectre propre	Cosmic rays, splice	count robust outliers in second derivativealert follows spike_rate, saturated at 1%
Artefacts locaux	`Spike rate`	Densité de pics	Spectre suspect	Normal	Interpolation	spike_count / (n_samples * (n_features - 2))alert = min(1, spike_rate / 0.01)
Artefacts locaux	`Jump count`	Discontinuités	Raccord détecteur	Continu	Splice	count robust outliers in first derivativealert follows jump_rate, saturated at 1%
Artefacts locaux	`Jump rate`	Fréquence de sauts	Problème spectral	Normal	Calibration	jump_count / (n_samples * (n_features - 1))alert = min(1, jump_rate / 0.01)
Artefacts locaux	`Clip fraction`	Saturation	Clipping	Normal	Détecteur saturé	fraction of finite cells equal to repeated min/max extremaalert = min(1, clip_fraction / 0.01)
Forme spectrale	`Baseline slope`	Pente globale	Dérive	Stable	Éclairement	linear slope of mean_spectrum over normalized axisalert = abs(slope / signal_scale), saturated at 0.5
Forme spectrale	`Curvature RMS`	Courbure	Forme inhabituelle	Lisse	Fond, splice	median RMS(second derivative per spectrum)alert = curvature_rms / signal_scale, saturated at 1%
Forme spectrale	`D1 RMS`	Variabilité locale	Spectre structuré	Plat	Biologie ou artefact	median RMS(first derivative per spectrum)alert = d1_rms / signal_scale, saturated at 5%
Outliers multivariés	`PCA Q (SPE)`	Non expliqué par PCA	Spectre atypique	Conforme	Artefact, mélange	p95(Q/SPE residual) / median(Q/SPE residual)alert = min(1, pca_q_ratio / 8)
Outliers multivariés	`Hotelling T²`	Extrême dans PCA	Extrême mais cohérent	Central	Variabilité naturelle	p95(Hotelling T2) / median(Hotelling T2)alert = min(1, hotelling_t2_ratio / 8)
Outliers multivariés	`Mahalanobis H`	Distance au nuage	Outlier global	Population normale	Domaine différent	p95(sqrt(T2)) / median(sqrt(T2))alert = min(1, mahalanobis_h_ratio / 4)
Comparaison à référence	`RMS to mean spectrum`	Distance moyenne	Spectre différent	Typique	Domain shift	p95 RMS distance to dataset mean spectrumalert = RMS_p95 / signal_scale, saturated at 25%
Comparaison à référence	`Spectral Angle Mapper (SAM)`	Différence de forme	Forme différente	Similaire	Fond, géométrie	p95 spectral angle to dataset mean spectrumalert = min(1, SAM_p95 / 0.35 rad)
Répétabilité	`RMS intra-ID`	Reproductibilité	Mauvaise répétabilité	Stable	Positionnement	median RMS distance to repeated-sample centroidalert = RMS_intra_ID / signal_scale, saturated at 10%
Répétabilité	`SAM intra-ID`	Variation de forme	Instable	Stable	Acquisition	median SAM to repeated-sample centroidalert = min(1, SAM_intra_ID / 0.15 rad)
Répétabilité	`CV intra-ID`	Variabilité interne	Mauvais contrôle	Stable	Opérateur	median within-ID band CValert = min(1, CV_intra_ID / 0.25)
Structure du dataset	`PCA score density`	Clusters	Sous-populations	Homogène	Lots différents	1 / median kNN distance in PCA score spacealert follows density_cv/profile structure complexity, not raw density alone
Structure du dataset	`Local Outlier Factor (LOF)`	Anomalie locale	Spectre isolé	Population normale	Cas rares	p95 approximate LOF from PCA-score kNN distancesalert = min(1, max(0, LOF_p95 - 1) / 2)
Structure du dataset	`Isolation Forest score`	Anomalie globale	Spectre atypique	Normal	Diverses causes	p95 IsolationForest anomaly score on PCA scoresalert follows structure complexity; raw score is implementation-dependent

Technology-specific extensions

Technologie	Adaptations / métriques	Anomalies ciblées	Commentaire pratique
UV-Vis 300-1000 nm	Baseline, pente globale, dérive aux bords 300-350 et 900-1000; métriques par zones	Lumière parasite, mauvais blanc, saturation, faible signal aux extrémités	Les bords sont souvent instables; calculer aussi des scores edge/middle.
UV-Vis 300-1000 nm	Saturation / clipping proche absorbance max ou réflectance max	Signal écrêté	Très important si absorption forte.
UV-Vis 300-1000 nm	Red-edge, position de maximum, ratios de bandes si végétal	Décalage biologique ou artefact optique	Aide à distinguer changement réel et problème d'acquisition.
UV-Vis 300-1000 nm	Smoothness / roughness index	Bruit haute fréquence	Souvent plus informatif que le SNR seul.
MIR / ATR-FTIR	ATR contact quality index: intensité globale, aire totale, profondeur des bandes clés	Mauvais contact cristal-échantillon	Crucial: beaucoup d'anomalies viennent du contact ATR.
MIR / ATR-FTIR	CO2 / H2O atmospheric bands	Mauvaise correction atmosphérique	Pics parasites fréquents.
MIR / ATR-FTIR	Baseline curvature / rubber-band residual	Diffusion, contact, dérive baseline	Très utile avant PCA.
MIR / ATR-FTIR	Peak position shift	Mauvais alignement spectral / calibration	Important en FTIR car de petits shifts comptent.
MIR / ATR-FTIR	Band area ratios sur bandes connues	Spectre chimiquement incohérent	À adapter par matrice: polysaccharides, protéines, lipides, etc.
HS-MS	Total Ion Current (TIC), Base Peak Intensity (BPI)	Injection faible, ionisation instable	Équivalent MS du niveau global spectral.
HS-MS	Nombre de pics détectés	Spectre pauvre ou trop bruité	Trop peu = mauvais signal; trop = bruit/contamination.
HS-MS	Mass accuracy / m/z drift	Problème calibration masse	Fondamental en HRMS.
HS-MS	Retention time drift si LC/GC-MS	Dérive chromatographique	À suivre sur standards/QC pools.
HS-MS	Blank contamination score	Contaminants / carry-over	Comparer échantillons vs blancs.
HS-MS	Internal standard CV	Variabilité instrumentale	Très robuste si standards disponibles.
HS-MS	Missingness par feature	Instabilité de détection	Crucial pour filtrer les variables.
Avec répétitions	RMS intra-échantillon	Répétabilité globale	Applicable à toutes les technologies.
Avec répétitions	SAM / corrélation intra-échantillon	Répétabilité de forme	Très utile pour spectres.
Avec répétitions	CV intra-échantillon par bande / feature	Répétabilité locale	Détecte les zones instables.
Avec répétitions	ICC ou variance components	Part variance échantillon vs technique	Très utile si plusieurs répétitions par sample.
Avec répétitions	Distance au centroïde intra-ID	Répétition aberrante	Permet de flagger la mauvaise répétition plutôt que le sample entier.

Bug-hunting / supervised audits

Famille de bug potentiel	Méthodes à ajouter	Ce que ça détecte	État dans l’explorateur
Shift spectral global	Corrélation spectre moyen inter-dataset, DTW, cross-correlation, comparaison positions de pics	Décalage en longueur d'onde, mauvais alignement, interpolation différente	Partiellement calculé: cross-correlation lag et dispersion des positions de pics vs spectre moyen.
Baseline / offset / gain	Régression chaque spectre vs spectre moyen: x = a + b ref + residual; suivi de a, b, RMS résiduel	Offset additif, effet multiplicatif, dérive de baseline	Calculé dans reference.affine_*.
Mélange de lignes / mauvais appariement X-M-Y	Vérification index, hash des lignes, duplication ID, distance spectrale intra-ID, labels incohérents	Lignes mélangées, metadata mal alignées, Y attribué au mauvais spectre	Partiellement couvert par répétabilité intra-ID; checks index/hash à ajouter au pipeline canonical.
Fuite d'information / répétitions mal splitées	GroupKFold par sample_id vs StratifiedKFold random; audit des partitions par sample_id	Performance artificiellement bonne due aux répétitions	Nécessite splits et benchmark modèle; non calculé par la carte descriptive.
Label bugs	Échantillons proches en X mais Y différents, confident learning, erreurs systématiques FP/FN	Y inversés, erreurs de saisie, classes ambiguës	Nécessite Y et/ou modèle; recommandé pour l'explorateur supervisé.
Sous-domaines cachés	PCA/UMAP/t-SNE + clustering non supervisé + association avec dataset/Y/date/operator	Lots, campagnes, sondes, backgrounds non renseignés	Partiellement calculé par structure PCA/LOF; UMAP/t-SNE hors carte statique.
Artefacts localisés inconnus	Carte wavelength x dataset: différence moyenne, différence variance, KS par longueur d'onde	Régions spectrales anormales non anticipées	À calculer au niveau banque quand plusieurs datasets partagent un axe spectral.
Ruptures instrumentales	Discontinuités dans dérivées, changepoint detection	Splice, raccord détecteur, saut local non prévu	Calculé par jump/spike rates; changepoint plus avancé à ajouter.
Mélange / contamination spectrale	NMF / unmixing / reconstruction par convex hull	Composante externe: fond, plastique, sol	Non calculé automatiquement; nécessite hypothèses de composants ou grande bibliothèque.
Features instables mais prédictives	Importance modèle vs instabilité QC par variable	Modèle qui apprend un artefact plutôt qu'un signal biologique	Nécessite modèle supervisé; recommandé pour rapports de benchmark.

Variables

Targets 11

chembl_id

target · categorical

n / missing	50,000 / 0
Classes	50,000
Balance (entropy)	1
Imbalance ratio	1
Top class	CHEMBL100 (1)

compound_name

target · categorical

n / missing	50,000 / 0
Classes	50,000
Balance (entropy)	1
Imbalance ratio	1
Top class	CHEMBL100 (1)

smiles

target · categorical

n / missing	50,000 / 0
Classes	49,979
Balance (entropy)	1
Imbalance ratio	2
Top class	CCCCCCCCCCCCC/C=C/[C@H]([C@@H](NC(=O)C)CO)O (2)

compound_class

target · categorical

n / missing	50,000 / 0
Classes	1
Balance (entropy)	0
Imbalance ratio	1
Top class	ChEMBL molecule (50,000)

band_gap

target · numeric

n / missing	50,000 / 0
Mean ± SD	0.09778 ± 0.0265
Median	0.09836
Range	0.00043 – 0.3228
CV	0.271
Skew / kurtosis	0.063 / 1.1
Normal?	no

dipole_moment_total

target · numeric

n / missing	50,000 / 0
Mean ± SD	5.178 ± 2.54
Median	4.838
Range	0 – 20.74
CV	0.49
Skew / kurtosis	0.76 / 0.76
Normal?	no

isotropic_polarizability

target · numeric

n / missing	50,000 / 0
Mean ± SD	264.9 ± 73.8
Median	260.8
Range	12.4 – 2030
CV	0.279
Skew / kurtosis	1.1 / 13
Normal?	no

homo

target · numeric

n / missing	50,000 / 0
Mean ± SD	-0.1822 ± 0.019
Median	-0.1832
Range	-0.3226 – -0.04018
CV	0.104
Skew / kurtosis	0.028 / 0.32
Normal?	no

lumo

target · numeric

n / missing	50,000 / 0
Mean ± SD	-0.08443 ± 0.0293
Median	-0.08491
Range	-0.2559 – 0.06839
CV	0.347
Skew / kurtosis	0.12 / 0.59
Normal?	no

electronic_ext

target · numeric

n / missing	50,000 / 0
Mean ± SD	1.622e+04 ± 9.91e+03
Median	1.414e+04
Range	44.98 – 140,123
CV	0.611
Skew / kurtosis	2.1 / 10
Normal?	no

heat_capacity

target · numeric

n / missing	50,000 / 0
Mean ± SD	94.55 ± 25.5
Median	92.79
Range	6.201 – 233.7
CV	0.27
Skew / kurtosis	0.56 / 0.75
Normal?	no

Metadata 6

molecule_id

metadata · categorical

n / missing	50,000 / 0
Classes	50,000
Balance (entropy)	1
Imbalance ratio	1
Top class	1 (1)

sdf_name

metadata · categorical

n / missing	50,000 / 0
Classes	50,000
Balance (entropy)	1
Imbalance ratio	1
Top class	CHEMBL100.xyz.sdf (1)

n_atoms

metadata · numeric

n / missing	50,000 / 0
Mean ± SD	47.36 ± 13.3
Median	46
Range	3 – 99
CV	0.281
Skew / kurtosis	0.59 / 0.64
Normal?	no

n_modes_total

metadata · numeric

n / missing	50,000 / 0
Mean ± SD	136.1 ± 39.9
Median	132
Range	3 – 291
CV	0.293
Skew / kurtosis	0.59 / 0.64
Normal?	no

n_modes_positive

metadata · numeric

n / missing	50,000 / 0
Mean ± SD	136 ± 39.9
Median	132
Range	3 – 291
CV	0.293
Skew / kurtosis	0.58 / 0.64
Normal?	no

has_negative_freq

metadata · categorical

n / missing	50,000 / 0
Classes	2
Balance (entropy)	0.21
Imbalance ratio	3e+01
Top class	no (48,370)

Constant metadata 14

spectroscopy_typeir_raman_multiblock
signal_typecomputed_ir_and_raman
axis_unitcm-1
axis_min0
axis_max4,000
n_points_original512
preprocessing_originallocal common-grid Lorentz-fitted export from source SQLite, no additional interpolation in nirs_db_vf
data_sourceRaman-ChEMBL Figshare SQLite/local processed exports
publication_doi10.1038/s41597-025-05289-x
citationLiang et al. 2025, A Dataset of Raman and Infrared Spectra as an Extension to the ChEMBL, Scientific Data 12, 939
licenseprivate_use_only pending ChEMBL/Figshare rights packaging review
rights_statusmanual_review_needed
usage_scopeprivate_use_only
notesConverted from local processed ChEMBL IR/Raman export with row limit and no project resampling

3 variable(s) omitted (no recorded values).

Alignment

Alignment level	observation
Sample id available	no
Samples	50,000
Observations (total)	100,000
Reps per sample	min 1 · mean 1 · max 1

Provenance & citation

Contributor	Raman-ChEMBL Figshare
Origin · url [open]	https://figshare.com/articles/dataset/Raman-ChEMBL-part1/28593698
Origin · figshare [open]	10.6084/m9.figshare.28593698.v3 — figshare
Origin · figshare [open]	10.6084/m9.figshare.28594295.v3 — figshare
Origin · script [manual]	source_to_standard.py — standardization script (maintainer-only)

Governance & integrity

Tier	public
License	CC-BY-4.0
Permitted use	Research and benchmarking.
Access policy	Open per source license.
Redistribution	Rights retained from source metadata; review before public redistribution.
Content version	1.0.0
Schema / protocol	2.0
Content hash	`5ecb062cf972de48…`
Processing hash	`c5b73d4dee4f3766…`
Metadata hash	`6356d2eac781d8a1…`

Load this dataset

# pip install nirs4all-datasets
from nirs4all_datasets import get

ds = get("chembl_ir_raman_multiblock")            # DOI-pinned, checksum-verified, cached
X, y = ds.x(), ds.y()
print(X.shape, y.shape)

card.json croissant.jsonIdentity metadata only — the dataset bytes live at the origin / DOI.