Spektroskopie und Chemometrie Neuigkeiten Wöchentlich #17-18, 2017

Chemometrics

Conferentia Chemometrica 2017, 3–6 September 2017, Gyöngyös, Farkasmály, Hungary. | chemometrics LINK

“Chaos theory in chemistry and chemometrics: a review” LINK

Predicting herbivore faecal nitrogen using a multispecies near-infrared reflectance spectroscopy calibration. LINK

Calibration transfer of flour NIR spectra between benchtop & portable instruments | directstandardization spectro LINK



Near Infrared

Fast Detection of Paprika Adulteration Using FT-NIR Spectroscopy LINK

How to analyze food and future requirements for NIR spectroscopy LINK



Infrared

“On-Site Analysis of Cannabis Potency Using Infrared Spectroscopy” LINK



Raman

5th International Taiwan Symposium on Raman Spectroscopy (TISRS 2017) 27–30 June 2017, Chiayi, Taiwan. LINK



Hyperspectral

Corning and PrecisionHawk and partnership enables hyperspectral imaging on drones LINK

Employing NIR-SWIR hyperspectral imaging to predict the smokiness of scotch whisky LINK

Defect detection of green coffee by NIR-hyperspectral imaging and multivariate pattern recognition LINK



Equipment

Getting ready for the LinkSquare SDK kickstarter with some beauty shots of our handheld spectrometer! LINK!

“Learning about Spectroscopy with Ocean Optics” LINK

Agriculture

Analysis of multiple soybean phytonutrients by near-infrared reflectance spectroscopy LINK



Other

A great demonstration of why we need to plot the data and never trust statistics tables! LINK





Spektroskopie und Chemometrie Neuigkeiten Wöchentlich #7-9, 2017

Leider ist der Eintrag nur auf English verfügbar.

NIR Spektroskopie und Chemometrie Neuigkeiten Wöchentlich #48, 2015

Chemometrics

See how chemometrics is helping save historical audio recordings in this article from | NIRS LINK


Near Infrared

Brewing up a laboratory sample – parameters by near infrared (NIR) instrument | beer LINK


Infrared

For a better understanding of the peaks in infrared (IR) and Raman spectroscopy, check out this primer LINK


Raman

Automated analysis of single cells using Laser Tweezers Raman Spectroscopy LINK

Smart sensor detects single molecule in chemical compounds | Raman spectroscopy SERS LINK


Hyperspectral

Drone multi-spectral imaging for field phenotyping of maize | drones farm365 ag farm LINK

Evaluation of Food Quality and Safety with Hyperspectral Imaging (HSI) LINK


Spectral Imaging

Robotic weeder uses multispectral imaging to identify targets. deepfieldrobotics precisionAG LINK


Optics

Spectroscopy Can Head Off Food Safety Crises (BioPhotonics feature) | LINK


Equipment

Airborne Spectrometers Volcanic Emissions | Drone UAV LINK

Modeling the grating spectrometer in a Czerny-Turner monochromator LINK

Hochauflösendes Spektrometer erkennt gestresste Pflanzen -FLORIS “Fluorescence Imaging Spectrometer” LINK


Process Control

Growing Adoption of Process Spectroscopy Across Industries Driving Global Market, According to BCC Research LINK


Environment

Mapping the Spectral Soil Quality Index (SSQI) Using Airborne Imaging Spectroscopy LINK


Agriculture

Airinov, a huge success in France now available in the UK! Come and see us at croptec15 stand 84 LINK!

FDA issues final food biotechnology labeling guidelines for plant foods; discourages “GMO free” claims | GMO LINK


Quantum

Quantum entanglement achieved at room temperature in semiconductor wafers | quantum LINK

Cool stuff coming from : Language-Integrated Quantum Operations: LIQUi|> LINK


Other

Compac’s Spectrim platform pushes sorting technology forward, postharvest, , |:30810,seccion:news,noticia:77487/ via LINK


CalibrationModel.com

Blogged: Spectroscopy + Chemometrics News Weekly KW47-2015 | Molecular Spectroscopy NIRS Chemometrics Raman NIR LINK

Increase Your Profit with optimized NIR Accuracy Food Feed FoodSafety ag agriculture Lab QAQC FDA LINK

Service for Professional custom development of NIR calibrations | NIRS Near-Infrared-Spectroscopy LINK

Services for Optimization of Chemometric Application Methods of Near-Infrared Spectroscopy | NIRS Quality Control LINK


Chemometrie und Nah-Infrarot Spektroskopie Neuigkeiten Wöchentlich #11, 2015

Holen Sie sich die Chemometrie und Spektroskopie Nachrichten in Echtzeit auf Twitter @ CalibModel


 

Chemometrics

Low-Content Quantification in Powders Using Raman Spectroscopy:..Chemometric Approach to Sub 0.1% Limits of Detection LINK
Check out this SSPC publication! Low-content quantification in powders using Raman spectroscopy LINK
Feasibility Study for Transforming Spectral and Instrumental Artifacts for Multivariate Calibration Maintenance LINK
ICA-Based Algorithm for Automatic Identification of Raman Spectra Applied to Artistic Pigments and Pigment Mixtures LINK
Optimization of NIR spectroscopy based PLSR models for critical properties of vegetable oils in biodiesel production LINK
Using iSPA-PLS and NIR spectroscopy for determination of total polyphenols and moisture in commercial tea samples LINK

Near Infrared

Broadband near-infrared spectroscopy of organic molecules on compact photonic devices LINK
NIR-Online-Systeme eröffnen neue Dimensionen der Qualitätskontrolle im Mischfutterwerk … LINK
Novel method to correct for wood MOE ultrasonics and NIRS measurements on increment cores in Liquidambar styraciflua LINK
Texas Instruments announces industry’s first fully programmable MEMS chipset f/ NIR analysis LINK
Forearm Deoxyhemoglobin and Deoxymyoglobin (Deoxy[Hb + Mb]) Measured by Near-Infrared Spectroscopy (NIRS) LINK
Determination of Copper & Zinc Pollutants in Ludwigia prostrata Roxb Using Near-Infrared Reflectance Spectroscopy LINK

Raman

Using Raman spectroscopy to characterise dental caries LINK
Global raman spectroscopy industry research report for 2015 just published – WhaTech LINK
Continuous Temperature-Dependent Raman Spectroscopy of Melamine and Structural Analog Detection in Milk Powder LINK

Equipment

New Handheld Analyzer Combines FTIR and Raman Technologies – Thermo Scientific Gemini LINK
First and only handheld integrated Raman and FTIR instrument – Thermo Scientific Gemini LINK
How Rebellion Photonics built a business on gas fumes | Hyperspectral LINK
Making a traditional miniature spectrometer smaller. Spark-VIS from LINK
Bruker’s NEW BRAVO – Handheld Raman Spectrometer LINK
Spectroscopy: Shrinking spectrometers permit novel applications. LINK
Live Demo of Bruker’s New HTS-250 FT-NIR Auto Sampling System LINK
Bruker Launches New BRAVO Handheld Raman Spectrometer for Raw Materials Identification LINK

Agriculture

Cheaper Sensors Will Fuel The Age Of Smart Everything LINK
Rambus Lensless Smart Sensor: A Tiny Image Sensor Designed For IoT – LINK

Pharma

NEW GENERATION OF RAMAN – COST EFFECTIVE RAW MATERIAL ID & PRODUCT ID OF PHARMACEUTICALS LINK

Other

Forbidden quantum leaps possible with high-res spectroscopy LINK
Frozen highly charged ions for highest precision spectroscopy LINK
THE SECRET TO HOW CHAMELEONS CHANGE COLOR: NANOCRYSTALS LINK
Spectroscopy Applications Offer Insight on Measurement Challenges LINK
40 darn good reasons to save seeds this year: LINK
Support research, education, extension. GoodAdviceIn4Words LINK!
Twenty one amazing reasons why forests are important LINK

CalibrationModel.com

9 Reasons why near-infrared Spectroscopy Applications need periodic Calibration Maintenance! LINK
Development of quantitative Multivariate Prediction Models for Near Infrared Spectrometers | NIRS NIR SWIR HSI LINK
Do you use Molecular Spectroscopy with Multivariate Regression Models? TimeSaver | … LINK
Do you use a near-infrared Spectrometer with Chemometric Methods? This will save you time NIR NIRS SWIR NIT LINK
Easy NIR Spectroscopy Calibration LINK
Efficient development of new quantitative prediction equations for multivariate data like NIR spectra | spectrum LINK
Efficient development of new quantitative prediction equations for multivariate data like NIRS spectra | AgTech LINK
Erstellung und Optimierung von chemometrischen Auswertemethoden für NIR Spektrometer | nearIR Labor nahinfrarot NIR LINK
Improve Accuracy of fast Nondestructive NIR Measurements by Optimal Calibration | foodquality agtech Lab biotech LINK
Improve Accuracy of fast Nondestructive NIR Measurements by Optimal Calibration | Food Feed FoodSafety mills Lab LINK
Increase Profit with optimized NIR Accuracy QC QA Food Feed Milk Production laboratory pauto process LINK
Increase Profit with optimized NIR Spectrometer Accuracy measure quality control parameters analyze diagnostics LINK
Increase Your Profit with optimized NIR Spectroscopy Analysis Process Control Monitoring LINK
Increase Your Profit with optimized NIR Accuracy Laboratory QC QA Food Feed Aquaculture petfood grain milk LINK
It is very unlikely for a tweet on “Chemometrics” to be retweeted. LINK
News: Chemiometria e Spettroscopia Weekly News 10, 2015 | NIRS Spettroscopia Chemiometria news LINK
News: Chemometrics and Spectroscopy News Weekly 10, 2015 | … NIRS Spectroscopy Chemometrics news Pittcon15 LINK
News: Chemometrie und Spektroskopie Neuigkeiten Wöchentlich 10, 2015 | NIRS Spektroskopie Chemometrie news LINK
Pro Tip: Die NIR-Kalibrierung ist der zentrale Schlüssel zur genauen NIR Messung LINK
Quantitatⅳe Analytical NIR Method Development Serⅵce 4 Quality Control Laboratory&Analytical Laboratories 4 Food QAQC LINK
Service für Professionelle Entwicklung von NIR-Kalibrierungen | NIRS NearInfrared Spektroskopie NahInfraRot LINK
Services for Professional Development of NIR Calibrations | NIRS Near-Infrared-Spectroscopy QA QC Laboratory LINK
Successful Application Development with NIR spectroscopy for quantitative determination LINK
WHITEPAPER: Knowledgebased Chemometric Software for NIR Calibration Modeling | NIRS LINK
free WHITEPAPER: A Novel knowledgebased Chemometric Software for quantitative NIR Calibration Modeling | NIRS LINK

Arbeitsweisen zur NIR Kalibrierung – Erstellung von NIRS-Spektroskopie Kalibrierungskurven

Kennen Sie den Effekt, dass Sie bevorzugt ihre Lieblings-Datenvorbehandlungen in Kombination durchprobieren und oft die gleichen Wellenlängen-Selektionen anhand der visualisierten Spektren ausprobieren?

Man probiert z.B. sechs bis zehn Kombinationen aus, bis man davon sein favorisiertes Kalibrationsmodell auswählt, um es dann weiter zu optimieren. Da fallen dann plötzlich Ausreisser (Outlier) auf, weil man in die Tiefe geht, also mit den Daten vertraut ist, man kennt mittlerweile die Spektren-Nummern der Ausreisser und ist mit den Extremwerten vertraut.

Jetzt fokussiert man sich auf die Hauptkomponenten (Principal Components, Latent Variables, Faktoren) und achtet darauf nicht zu über-fitten und nicht zu unter-fitten. Das ganze dauert ein paar Stunden und schliesslich begnügt man sich mit dem gefundenen Modell.

Was wäre nun, wenn man in all den zu Beginn ausprobierten Varianten, die gefundenen Ausreisser entfernt und nochmals berechnet und vergleicht? Wären die Ergebnisse besser als die von der bisherigen Modell Wahl? Man probiert es nicht aus? Weil es mühsam ist und wieder Stunden dauert?

Wir haben eine Software entwickelt die dies so vereinfacht, dass auch die Anzahl der Modell Variationen beliebig erhöht werden kann. Die Varianten Erzeugung läuft automatisiert mit einem intelligenten Regelsystem, so auch die Optimierung und das Vergleichen der Modelle und schliesslich die finale Auswahl des Besten Kalibrations Modell.

Unsere Software beinhaltet alle üblichen bekannten Datenvorbehandlungs Methoden (Preteatments) und kann diese sinnvoll kombinieren. Da viele Preteatments direkt abhängig sind von der Wellenlängen Selektion, so z.B. die Normalisierungen die innerhalb eines Wellenlängen-Bereiches die Skalierungsfaktoren ermittelt, um die Spektren damit zu normieren, werden die Pretreatments mit dem Wellenlängen-Bereichen kombiniert. So kommt eine Vielzahl von sinnvollen Modell Einstellungen zusammen die alle berechnet und optimiert werden.

Für die automatische Auswahl der relevanten Wellenlängen Bereiche kommen verschiedene Methoden zum Einsatz, die sich an den Spektren Intensitäten orientieren. So werden z.B. Bereiche mit Totalabsorption nicht verwendet, oftmals störende Wasserbanden entfernt oder beibehalten.

Über all die berechneten Modell Variationen können so zusammenfassende Outlier Analysen gemacht werden. Werden durch die gefahrenen Versuche neue Outlier (Hidden Outlier) entdeckt, können alle bisherigen Modelle automatisch ohne diese Ausreisser nachberechnet, optimiert und verglichen werden.

Aus dieser Vielzahl berechneter Modelle mit deren Statistischen Güte Bewertungen (Prediction Performance) kann nun die optimale Kalibration ausgewählt werden. Dazu wird nicht einfach nach dem Vorhersage Fehler (Prediction Error, SEP, RMSEP) oder nach dem Bestimmtheitsmaß (Coefficient of Determination r2) sortiert, sondern mehrere Statistik- und Testwerte gemeinsam zur umfänglichen Beurteilung der optimalen Kalibration herangezogen.

Somit haben wir eine Plattform geschaffen, die es ermöglicht hochgradig automatisiert das zu tun, was ein Mensch niemals mit einer handelsüblichen Software tun kann.

Wir bieten damit die grösste Anzahl auf Ihr Applikations-Problem angepasste Modellierungs-Berechnungen und wählen die beste Kalibration für Sie aus!

Das heisst, unsere Ergebnisse sind schneller, genauer, robuster und objektiv ausgewählt (Personen unabhängig) und für Sie ganz einfach anzuwenden.

Die Kontrolle über die von uns gelieferten Modelle haben Sie vollumfänglich, denn wir liefern einen klar strukturierten und detaillierten Bauplan der  kompletten Kalibration, mit allen Einstellungen und Parametern, mit allen notwendigen Statistischen Kenngrössen und Grafiken.

Anhand dieses Bauplans können Sie das quantitative Kalibrations Modell selbst in der von Ihnen verwendeten Software nachstellen, nachvollziehen und vergleichen. Sie haben so alles im Griff, für die Modell-Validierung und die Modellpflege.

Der Datenschutz ist uns sehr wichtig. Die NIR Daten, die Sie uns für die Kalibrations-Erstellung kurzzeitig zu Verfügung stellen bleiben selbstverständlich Ihr Eigentum. Ihre NIR Daten werden nach Abschluss des Auftrags bei uns gelöscht.

Interessiert, dann zögern Sie nicht uns zu kontaktieren.

NIRS Calibration Model Equation – Optimal Predictive Model Selection

To give you an insight what we do to find the optimal model, imagine a NIR data set, where a NIR specialist works hard for 4 hours in his chemometric software to try what he can with his chemometric-, NIR spectroscopic- and his product-knowledge to get a good model. During the 4 hours he finds 3 final candidate models for his application. With the RMSEP of 0.49 , 0.51 and 0.6. Now he has to choose one or to test all his three models on new measured NIR spectra.

That is common practice. But is this good practice?

And nobody asks, how long, how hard have you tried, how many trial have you done, if this really the best model that is possible from the data?
And imagine the cost of the data collection including the lab analytics!
And behind this costs, have you really tried hard enough to get the best out of your data? Was the calibration done quick and dirty on a Friday afternoon? Yes, time is limited and manually clicking around and wait in such kind of software is not really fun, so what are the consequences?

Now I come to the most important core point ever, if you own expensive NIR spectrometer system, or even many of them, and your company has collected a lot of NIR spectra and expensive Lab-reference data over years, do you spend just a few hours to develop and build that model, that will define the whole system’s measurement performance for the future? And ask yourself again (and your boss will ask you later), have you really tried hard enough, to get the best out of your data? really?

What else is possible? What does your competition do?

There is no measure (yet) what can be reached with a specific NIR data set.
And this is very interesting, because there are different beliefs if a secondary method like NIR or Raman can be more precise and accurate, as the primary method.

What we do different is, that our highly specialized software is capable of creating large amounts of useful calibrations to investigate this limits – what is possible. It’s done by permutation and combination of spectra-selection, wave-selection, pre-processing sequences and PC selections. If you are common with this, then you know that the possibilities are huge.

For a pre-screening, we create e.g. 42’000 useful calibrations for the mentioned data set. With useful we mean that the model is usable, e.g. R² is higher than 0.8, which shows a good correlation between the spectra and the constituent and it is well fitted (neither over-fitted nor under-fitted) because the PC selection for the calibration-set is estimated by the validation-set and the predictive performance of the test-set is used for model comparisons.

Here the sorted RMSEP values of the Test Set is shown for 42’000 calibrations.
You can immediately see that the manually found performance of 0.49 is just in the starting phase of our optimization. Interesting is the steep fall from 1.0 to 0.5 where manually optimization found it’s solutions. A range where ca. 2500 different useful calibrations exist. The following less steep fall from 0.5 to 0.2 contains a lot more useful models and between 0.2 to 0.08 the obvious high accurate models are around 2500 different ones. So the golden needle is not in the first 2500 models, it must be somewhere in the last 2500 models in the haystack.

Sorted RMSEP plot of 42'000 NIR Calibration Model Candidates

That allows us to pick the best calibration out of 42’000 models, depending on multiple statistical evaluation criteria, that is not just the R² or RPD, SEC, SEP or RMSEP, (or Akaike Information Criterion (AIC), Bayesian Information Criterion (BIC), Multivariate AIC (MAIC) etc.) we do the model selection based on multiple statistical parameters.

Dengrogram plot of similar  NIR Calibration Models

To compare the calibration models by similarity it is best viewed with dendrogram plots like this (zoomed in), where the settings are shown versus the models overall performance similarity. In the settings you can see a lot of different permutations of pre-processings combined with different wave-selections.

NIR Kalibrationsentwicklung (Teil 2)

( zu Teil 1 )

Alle folgenden Kategorien werden durch die Verwendung mehrerer verschiedener Algorithmen und Formeln umgesetzt, was zu vielen unterschiedlichen Kalibrierungen führt.

Arbeitsschritte bei der Modell Erstellung
  • Daten Bereinigung – (schlechte Daten, fehlende Werte, Duplikateliminierung, spektrale Qualität / Intensität / Rauschen, Eingabewert Tippfehler, …)
  • Initial Kalibrierung einrichten – Auswahl der Kalibrierungs-, Validierungs- und Test-Sets
  • Wellenlängen Auswahl
  • Datenvorverarbeitung, Datenvorbehandlungen
  • Method Berechnung
  • Die Wahl der Anzahl der Hauptkomponenten / Latente Variablen / Faktoren
  • Validierung des Kalibrierungs Modell / Performance Statistiken – (Genauigkeit, Präzision, Linearität, Wiederholbarkeit, Reichweite, Verteilung, Robustheit / Stabilität, Empfindlichkeit, Einfachheit, etc.)
  • Ausreißer Untersuchung und Beseitigung


Das Problem der Wahl der optimalen Anzahl von Faktoren, um das Optimum zwischen Unterfittung und Überfittung zu finden, wird gelöst durch mehrere implementierte Methoden und Protokollen, was zu mehreren Kalibrierungen führt.

Die Auswertung und die Auswahl der besten Kalibrierung basiert auf vielen einzelnen statistischen Werten, einschließlich der beliebtesten RMSEP, SEP, Bias, SEC, R2 und PCs usw.

Ergebnisse und Berichte

Eine detailliertes Kalibrierprotokoll wird bereitgestellt, das die beste verfügbare Kalibrierung detailliert mit allen Kalibrierparameter Einstellungen und Statistiken der Vorhersage Leistung des Kalibrier-Sets, des Validierungs-Sets und des Test-Sets beinhaltet. Eine visuelle Betrachtung der Kalibrierung wird mit den wichtigsten Grafiken zur Verfügung gestellt.

Unser Service funktioniert mit jedem quantitative NIR-Spektren Daten Satz im Standardformat JCAMP-DX-Format und verwendet hauptsächlich PLS und PCR um kompatibel zu sein mit anderen chemometrischen Kalibrierungssoftwaren.

Summary of the NIR Chemometric survey polls

Summary of the NIR Chemometric survey polls (as of end of Sept. 2013)

The interesting finding is that most of the answers fit the following pattern. The most companies that use NIR have one NIR Instrument and only one employee that is able to develop NIR calibrations. For that the most common off-the-shelf chemometrics program is used and spent 2 hours or over a month and therefore gets no calibration training about the complex topics like Chemometrics and NIR Spectroscopy or only once (introduction). The calibration maintenance ranges from never to 3 times a year. Interestingly, there was no one who uses portable NIR instruments. We continue our surveys, for the discovery of new trends. Conclusion Seeing this picture, we think that there is huge potential to improve the calibrations. Advanced knowledge can help individuals to build the calibrations with best practices and improve their models accuracy and reliability. Once the decision and investment in NIR technology is done, you should get the best out of your data, because this extra NIR performance can be given by calibration optimization. We offer this as an easy to use and independent service.