فاکتور خطی بودن یک دستگاه، دقت اندازه‌گیری‌ها در طیف وسیعی از عملکرد دستگاه می‌باشد. برای بررسی میزان خطی بودن یک اندازه‌گیری، باید اندازه‌گیری‌های متعددی درتمام محدوده اندازه‌گیری آن تکرار شود (حداقل 5 نمونه را اندازه‌گیری کنید که طیف وسیعی از اندازه‌گیری را پوشش دهد.).
ازطرفی برای تعیین خطی بودن هر یک از تست‌ها، اندازه‌گیری‌های مرجع (اندازه‌گیری‌هایی که توسط گروه کیفیت ساخته شده است) مورد نیاز است. اندازه‌گیری مرجع با نتایج حاصل از دستگاهی که خطی بودن آن مورد مطالعه قرار می‌گیرد، مقایسه می‌شود. هر نمونه را حداقل 10 بار به صورت تصادفی اندازه گیری کنید.
برای هر یک از تست‌ها، میانگین و محدوده اندازه‌گیری شده را محاسبه کنید. مقایسه میانگین و محدوده اندازه‌گیری شده نمونه با مقادیر مرجع، برای تعیین گراف پاسخ خطی محاسبات استفاده می‌شود.
میانگین مقادیر اندازه‌گیری شده (در محور y) را برای هر نمونه بر حسب مقدار مرجع (در محور x) قرار دهید. اگر خط حاصل بصورت تقریبی یک خط مستقیم با شیب 45 درجه باشد، دستگاه اندازه‌گیری خطی است.
اگر مقادیر اندازه‌گیری یک خط مستقیم ایجاد نکند، یا خط از شیب مطلوب 45 درجه فاصله داشته باشد، شما مشکلی با خطی بودن دستگاهتان خواهید داشت.
یک تکنیک ریاضی برای ارزیابی دقیق میزان پاسخ خطی وجود دارد. ارزیابی بر اساس معادله یک خط است که رابطه بین بایاس و مقادیر مرجع تست‌ها را بیان می‌کند. (بایاس مقدار اندازه‌گیری نمونه‌ها منهای اندازه‌گیری مرجع است.)
برای محاسبه خط با بهترین فیت، از معادله \( y = ax + b\) استفاده کنید.
که: y مقدار بایاس، a شیب خط، x مقدار مرجع و b عرض از مبدا است.
برای محاسبه شیب a داریم:
$$a=\frac{\Sigma xy - \frac{\Sigma x\Sigma y}{n}}{\Sigma x^2 - \frac{(\Sigma x)^2}{n}}$$
که n تعداد کل اندازه‌گیری‌های انجام شده است.
برای محاسبه عرض از مبدا b داریم: \(b=\bar{y}-a.x.\bar{x}\)
با داشتن مقادیر a و b، می‌توان معادله‌ی رگرسیون (y = ax + b) را تکمیل کرد که به ما بهترین خط را می‌دهد.
با استفاده از نتایج معادله رگرسیون، می‌توانیم میزان 'خوب بودن' پاسخ خطی را با محاسبه ضریب \(R^2\) تعیین کنیم.
$$R^2=\frac{[\Sigma xy - \frac{\Sigma x\Sigma y}{n}]^2}{[\Sigma x^2 - \frac{(\Sigma x)^2}{n}][\Sigma y^2 - \frac{(\Sigma y)^2}{n}]}$$
\(R^2\) مقدار تغییرات در مقادیر بایاس خط رگرسیون را نشان می‌دهد. اگر \(R^2\)، 0.6 (60٪) یا بیشتر باشد، خط رگرسیون یک نمایش مناسبی از بهترین فیت خواهد بود.