I.6.1.1. Egyenes illesztése
A számítások menetét a legegyszerűbb példán, az egyenes illesztésén keresztül mutatjuk be. Legyen a keresett egyenes egyenlete a következő:
Az illesztés során meghatározandó paraméterek az egyenes meredeksége (m) és a tengelymetszete (b). Ekkor a minimum feltétel a következőképpen írható:
ahol az illesztési egyenes két paramétere ismeretlen. A matematikából ismert, hogy egy többváltozós függvény szélsőértéke (esetünkben minimuma) ott lehet, ahol az egyes változók szerinti parciális differenciálhányadosok értéke 0. Matematikai alakban megfogalmazva, ahol
Beírva a konkrét függvényalakot:
Átrendezve az egyenleteket kapjuk, hogy:
Ennek alapján a keresett két paramétert meghatározó összefüggés:
Az, hogy ez az illesztés mennyire jó, azt az r2 kiszámolásával tudjuk megmondani. Az r2 értéke mellett az alábbi képlettel kiszámolható az illeszkedési szórás négyzet, mely azt mutatja meg, hogy a mért pontok mennyire térnek el az illesztési függvénytől:
