TIÊU CHUẨN QUỐC GIA TCVN 8702:2011 VỀ CÔNG NGHỆ THÔNG TIN – CHẤT LƯỢNG SẢN PHẨM PHẦN MỀM – PHẦN 1: CÁC PHÉP ĐÁNH GIÁ NGOÀI

Hiệu lực: Còn hiệu lực

TIÊU CHUẨN QUỐC GIA

TCVN 8702:2011

CÔNG NGHỆ THÔNG TIN – CHẤT LƯỢNG SẢN PHẨM PHẦN MỀM – PHẦN 1: CÁC PHÉP ĐÁNH GIÁ NGOÀI

Information technology – Software product quality- Part 1: External metrics

Lời nói đầu

TCVN 8702:2011 được xây dựng trên cơ sở chấp nhận ISO/IEC 9126-2.

TCVN 8702:2011 do Viện Khoa học Kỹ thuật Bưu điện biên soạn. Bộ Thông tin và Truyền thông đề nghị, Tổng cục Tiêu chuẩn Đo lường Chất lượng thẩm định, Bộ Khoa học và Công nghệ công bố.

CÔNG NGHỆ THÔNG TIN – CHẤT LƯỢNG SẢN PHẨM PHẦN MỀM – PHẦN 1: CÁC PHÉP ĐÁNH GIÁ NGOÀI

Information technology – Software product quality- Part 1: External metrics

Phạm vi áp dụng

Tiêu chuẩn này xác định các phép đánh giá ngoài cho việc đo định lượng chất lượng ngoài của phần mềm trong phạm vi các đặc tính và các đặc tính nhỏ được định nghĩa trong ISO/IEC 9126-1.

Tiêu chuẩn này bao gồm:

– Giải thích cách áp dụng các phép đánh giá chất lượng phần mềm;

– Một bộ cơ bản các phép đánh giá cho từng đặc tính nhỏ;

– Một ví dụ về cách áp dụng các phép đánh giá trong vòng đời sản phẩm phần mềm.

Tiêu chuẩn này không ấn định các dải giá trị của các phép đánh giá này để xác định các mức hoặc cấp độ tuân thủ, vì rằng các giá trị này sẽ được xác định cho từng sản phẩm phần mềm hoặc một phần của sản phẩm phần mềm, do bản chất của nó, tùy thuộc vào các yếu tố như loại của phần mềm, mức độ tính toàn vẹn và các nhu cầu của người sử dụng. Một vài thuộc tính có thể có dải giá trị mong muốn mà không phụ thuộc vào các nhu cầu của người sử dụng cụ thể nhưng phụ thuộc vào các yếu tố chung, ví dụ như các yếu tố nhận thức của con người.

Tiêu chuẩn này có thể được áp dụng cho bất kỳ loại phần mềm nào và cho bất kỳ ứng dụng nào. Người sử dụng tiêu chuẩn kỹ thuật này có thể chọn hoặc thay đổi và áp dụng các phép đánh giá và phép đo từ tiêu chuẩn này hoặc có thể định nghĩa các phép đánh giá theo ứng dụng cụ thể cho lĩnh vực ứng dụng riêng. Ví dụ, phương pháp đánh giá cụ thể về đặc tính chất lượng như an toàn hay bảo mật có thể tìm trong các tiêu chuẩn quốc tế của IEC 65 hay ISO/IEC JTC 1/SC 27.

Người sử dụng Tiêu chuẩn này bao gồm:

Người mua sản phẩm (cá nhân hay tổ chức mua hệ thống, sản phẩm phần mềm hoặc dịch vụ phần mềm từ nhà cung cấp);
Người đánh giá (cá nhân hay tổ chức thực hiện đánh giá. Người đánh giá có thể, ví dụ, là phòng kiểm định, trung tâm chất lượng của tổ chức phát triển phần mềm, tổ chức chính phủ hoặc người sử dụng);
Người phát triển (cá nhân hay tổ chức thực hiện các hoạt động phát triển, bao gồm phân tích yêu cầu, thiết kế, và kiểm tra chấp thuận trong quá trình vòng đời sản phẩm phần mềm);
Người bảo trì (cá nhân hay tổ chức thực hiện các hoạt động bảo trì);
Nhà cung cấp (cá nhân hay tổ chức tham gia ký hợp đồng với người mua sản phẩm để cung cấp hệ thống, sản phẩm phần mềm hoặc dịch vụ phần mềm trên các điều khoản của hợp đồng) khi kiểm tra chất lượng phần mềm trong cuộc kiểm tra xác định chất lượng;
Người sử dụng (cá nhân hay tổ chức sử dụng sản phẩm phần mềm để thực hiện chức năng xác định) khi đánh giá chất lượng sản phẩm phần mềm trong cuộc kiểm tra chấp thuận;
Người quản lý chất lượng (cá nhân hay tổ chức thực hiện kiểm tra có hệ thống các sản phẩm phần mềm hoặc dịch vụ phần mềm) khi đánh giá chất lượng sản phẩm phần mềm như một phần của bảo đảm chất lượng và kiểm soát chất lượng.

Tài liệu viện dẫn

Các tài liệu viện dẫn sau đây là cần thiết để áp dụng tiêu chuẩn này. Đối với các tài liệu viện dẫn ghi năm công bố thì áp dụng bản được nêu. Đối với các tài liệu viện dẫn không ghi năm công bố thì áp dụng phiên bản mới nhất, bao gồm cả các sửa đổi, bổ sung (nếu có).

[1] TCVN 8703:2011 – Công nghệ thông tin – Chất lượng sản phẩm phần mềm – Phần 2: Các phép đánh giá trong.

[2] TCVN 8704:2011 – Công nghệ thông tin – Chất lượng sản phẩm phần mềm – Phần 3: Các phép đánh giá chất lượng sử dụng.

[3] TCVN 8705:2011 – Công nghệ thông tin – Đánh giá sản phẩm phần mềm – Phần 1: Tổng quan.

[4] TCVN 8706.2011 – Công nghệ thông tin – Đánh giá sản phẩm phần mềm – Phần 2: Quy trình cho người đánh giá.

[5] TCVN 8707:2011 – Công nghệ thông tin – Đánh giá sản phẩm phần mềm – Phần 3: Quy trình cho người phát triển

[6] TCVN 8708:2011 – Công nghệ thông tin – Đánh giá sản phẩm phần mềm – Phần 4: Quy trình cho người mua sản phẩm.

[7] ISO/IEC 9126-1 – Software engineering – Product quality – Part 1: Quality model. (ISO/IEC 9126-1- Kỹ thuật phần mềm – Chất lượng sản phẩm – Phần 1: Mô hình chất lượng).

[8] ISO/IEC 12207 – Systems and software engineering – Software life cycle processes (ISO/IEC 12207 – Kỹ thuật hệ thống và phần mềm – Các quá trình vòng đời phần mềm).

[9] ISO/IEC 14143-1 – Functional size measurement – Part 1 (ISO/IEC 14143-1 – Phép đo quy mô chức năng – Phần 1).

[10] ISO/IEC 14756 – Information technology – Measurement and rating of performance of computer- based software systems (ISO/IEC 14756 – Công nghệ thông tin – Phép đo và phân hạng hiệu năng các hệ thống phần mềm trên máy tính).

[11] ISO/IEC 14598-6 – lnformation technology – Software product evaluation – Part 6: Documentation of evaluation modules. (ISO/IEC 14598-6 – Công nghệ thông tin – Đánh giá sản phẩm phần mềm – Phần 6: Tài liệu các mô đun đánh giá).

[12] ISO 9241-10:1996 – Ergonomic requirements for office work with visual display terminals (VDTs) – Part 10: Dialogue principles. (ISO 9241-10:1996 – Phần 10 – Các yêu cầu lao động cho công việc văn phòng với đầu cuối hiển thị VDT).

[13] ISO/IEC 2382-20:1990 – Information technology – Vocabulary – Part 20: System development (ISO/IEC 2382-20:1990 – Công nghệ thông tin – Từ vựng – Phần 20: Phát triển hệ thống).

[14] ISO 8402:1994 – Quality management and quality assurance – Quality vocabulary (ISO 8402:1994 – Quản lý chất lượng và đảm bảo chất lượng – Từ vựng chất lượng).

Thuật ngữ và định nghĩa

3.1. Chất lượng

3.1.1. Chất lượng (quality)

Là tổng hợp các đặc tính của thực thể liên quan tới khả năng của nó thỏa mãn các yêu cầu đã được công bố và ám chỉ.

CHÚ THÍCH: Trong môi trường hợp đồng, hoặc trong môi trường quy định, như lĩnh vực an toàn nguyên tử, các yêu cầu được xác định, trong khi đó trong các môi trường khác, các yêu cầu ám chỉ phải được nhận biết và định nghĩa.

3.1.2. Chất lượng ngoài (external quality)

Là khả năng của sản phẩm thỏa mãn các yêu cầu đã được công bố và ám chỉ khi sử dụng dưới các điều kiện xác định.

3.1.3. Chất lượng sử dụng (quality in use)

Là khả năng của sản phẩm phần mềm cho phép người sử dụng xác định đạt tới các mục tiêu xác định với tính hiệu quả, năng suất, tính an toàn và sự thỏa mãn trong ngữ cảnh cụ thể khi sử dụng.

CHÚ THÍCH: Chất lượng sử dụng là cách nhìn của người sử dụng của chất lượng trong môi trường chứa phần mềm, và được đo từ các kết quả của việc sử dụng phần mềm trong môi trường, hơn là các đặc tính của chính bản thân phần mềm.

3.1.4. Chất lượng trong (internal quality)

Là tổng hợp các thuộc tính của sản phẩm xác định khả năng của nó để thỏa mãn các yêu cầu đã được công bố và ám chỉ khi sử dụng dưới các điều kiện xác định.

CHÚ THÍCH 1: Thuật ngữ “chất lượng trong”, được sử dụng trong Tiêu chuẩn này ngược nghĩa với “chất lượng ngoài”, về cơ bản có cùng ý nghĩa với như “chất lượng” trong ISO 8402.

CHÚ THÍCH 2: Thuật ngữ “thuộc tính” được sử dụng (thường xuyên hơn thuật ngữ “đặc tính”) như thuật ngữ “đặc tính” sử dụng trong các ý nghĩa đặc trưng hơn trong ISO/IEC 9126.

3.1.5. Mô hình chất lượng (quality model)

Một bộ các đặc tính và quan hệ giữa chúng, cung cấp cơ sở cho các yêu cầu chất lượng xác định và đánh giá chất lượng.

3.2. Phần mềm và người sử dụng

3.2.1. Người sử dụng (user)

Cá nhân sử dụng sản phẩm phần mềm để thực hiện chức năng xác định.

CHÚ THÍCH: Người sử dụng có thể bao gồm người vận hành, người nhận kết quả của phần mềm, hoặc người phát triển, hoặc người bảo trì phần mềm.

3.2.2. Phần mềm (software)

Tất cả hoặc một phần của các chương trình, thủ tục, quy tắc, và tài liệu đi kèm của một hệ thống xử lý thông tin

CHÚ THÍCH: Phần mềm là sáng tạo trí tuệ không phụ thuộc vào phương tiện nó được lưu trữ.

3.2.3. Sản phẩm phần mềm (software product)

Một bộ các chương trình máy tính, thủ tục, và có thể các tài liệu đi kèm và dữ liệu thiết kế để phân phối cho người sử dụng.

CHÚ THÍCH: sản phẩm bao gồm các sản phẩm trung gian, và các sản phẩm dự định cho người sử dụng như người phát triển và người bảo trì.

3.3. Phép đo

3.3.1. Chỉ báo (indicator)

Hệ đo có thể được sử dụng để ước lượng hoặc dự báo hệ đo khác.

CHÚ THÍCH 1: Hệ đo có thể như nhau hoặc tính chất khác nhau.

CHÚ THÍCH 2: Các chỉ báo có thể được sử dụng cho cả ước lượng các thuộc tính chất lượng phần mềm và ước lượng các thuộc tính của quá trình sản xuất. Chúng là các hệ đo gián tiếp của các thuộc tính.

3.3.2. Đo (measure – verb.)

Thiết lập phép đo.

3.3.3. Hệ đo (measure – noun.)

Số lượng hoặc phạm trù gắn với các thuộc tính của thực thể bằng cách thiết lập phép đo.

3.3.4. Hệ đo gián tiếp (indirect measure)

Hệ đo thuộc tính nhận được từ các hệ đo một hoặc nhiều các thuộc tính khác.

CHÚ THÍCH: Hệ đo ngoài của thuộc tính của hệ thống máy tính (như thời gian đáp ứng đầu vào người sử dụng) là hệ đo gián tiếp các thuộc tính của phần mềm vì rằng hệ đo sẽ bị ảnh hưởng bởi các thuộc tính của môi trường tính toán cũng như các thuộc tính của phần mềm.

3.3.5. Hệ đo ngoài (external measure)

Hệ đo gián tiếp của sản phẩm nhận được từ các hệ đo các hoạt động của hệ thống mà sản phẩm là một phần của nó.

CHÚ THÍCH 1: Hệ thống bao gồm bất kỳ phần cứng, phần mềm liên kết nào (kể cả phần mềm của khách hàng hoặc phần mềm đóng gói) và người sử dụng.

CHÚ THÍCH 2: Số sự cố phát hiện được trong quá trình kiểm tra là các hệ đo ngoài của số sự cố trong chương trình vì số sự cố được đếm trong quá trình vận hành của hệ thống máy tính đang thực hiện chương trình để nhận biết lỗi trong mã.

CHÚ THÍCH 3: Các hệ đo ngoài có thể được sử dụng để đánh giá các thuộc tính chất lượng gần với các mục tiêu cơ bản của thiết kế.

3.3.6. Hệ đo trong (internal measure)

Hệ đo nhận được từ chính bản thân phần mềm, bất kể là trực tiếp hay gián tiếp, nó không xuất phát từ các hệ đo các hoạt động của hệ thống mà nó là một phần.

CHÚ THÍCH: Các dòng mã, độ phức tạp, số sự cố phát hiện được trong các bước và Chỉ số mờ tất cả đều là đo lường trong được tạo trong bản thân phần mềm.

3.3.7. Hệ đo trực tiếp (direct measure)

Hệ đo thuộc tính không phụ thuộc vào hệ đo các thuộc tính khác.

3.3.8. Phép đánh giá (metric)

Thang đo và phương pháp sử dụng đo.

CHÚ THÍCH 1: Phép đánh giá có thể là trong hoặc ngoài.

CHÚ THÍCH 2: Các phép đánh giá bao gồm các phương pháp cho phân loại dữ liệu định tính.

3.3.9. Phép đo (measurement)

Quá trình gắn số lượng hoặc phạm trù với thực thể mô tả thuộc tính của thực thể.

CHÚ THÍCH: Phạm trù được sử dụng để biểu thị các phép đo định tính của các thuộc tính. Ví dụ, một số các thuộc tính quan trọng của sản phẩm phần mềm, như ngôn ngữ của chương trình nguồn (ADA, C, COBOL, …) lá định tính.

3.3.10. Thuộc tính (attribute)

Đặc tính vật lý đo được hay đặc tính lý thuyết của thực thể.

Ký hiệu và thuật ngữ

SQA – Đảm bảo chất lượng phần mềm.

SLCP – Các quá trình vòng đời phần mềm.

Sử dụng các phép đánh giá phần mềm

Các tiêu chuẩn TCVN 8702:2011, TCVN 8703:2011, TCVN 8704:2011 cung cấp bộ khuyến nghị các phép đánh giá sản phẩm phần mềm (các phép đánh giá ngoài, trong và chất lượng sử dụng) được sử dụng cùng với ISO/IEC 9126-1 (Mô hình chất lượng). Người sử dụng các Tiêu chuẩn này có thể thay đổi các phép đánh giá được xác định, và/hoặc có thể sử dụng các phép đánh giá không được đưa ra. Khi sử dụng phép đánh giá đã được thay đổi hoặc phép đánh giá mới không được nhận biết trong các Tiêu chuẩn này người sử dụng phải chỉ rõ các phép đánh giá đó liên hệ với mô hình chất lượng trong ISO/IEC 9126-1 hoặc bất cứ mô hình chất lượng thay thế nào khác được sử dụng như thế nào.

Người sử dụng các Tiêu chuẩn này phải lựa chọn các đặc tính và các đặc tính nhỏ sẽ được đánh giá từ ISO/IEC 9126-1; xác định các hệ đo trực tiếp và gián tiếp thích hợp, xác định các phép đánh giá tương thích và từ đó làm sáng tỏ kết quả đo theo mục tiêu. Người sử dụng các Tiêu chuẩn này cũng có thể lựa chọn các quy trình đánh giá sản phẩm trong vòng đời phần mềm từ bộ Tiêu chuẩn ISO/IEC 14598 (ISO/IEC 14598). Các Tiêu chuẩn này đưa ra các phương pháp đo ước định và đánh giá chất lượng sản phẩm phần mềm. Chúng được dự định sử dụng cho người phát triển, người mua sản phẩm và các nhà đánh giá độc lập, đặc biệt cho những người chịu trách nhiệm trong việc đánh giá sản phẩm phần mềm (xem Hình 1).

Sản phẩm phần mềm	Hiệu quả của sản phẩm phần mềm

Hình 1 – Quan hệ giữa các loại phép đánh giá

Các phép đánh giá trong có thể được áp dụng cho sản phẩm phần mềm không chạy được trong các giai đoạn phát triển của nó (như yêu cầu cho đề xuất, định nghĩa các yêu cầu, đặc điểm kỹ thuật thiết kế hay mã nguồn). Các phép đánh giá trong cung cấp cho người sử dụng khả năng đo chất lượng các thực hiện trung gian và do đó dự báo chất lượng của sản phẩm cuối cùng. Điều này cho phép người sử dụng nhận biết các vấn đề chất lượng và bắt đầu hoạt động hiệu chỉnh càng sớm càng tốt trong vòng đời phát triển.

Các phép đánh giá ngoài có thể được sử dụng để đo chất lượng sản phẩm phần mềm bằng cách đo hoạt động của hệ thống mà phần mềm là một phần của nó. Các phép đánh giá ngoài chỉ có thể được sử dụng trong các giai đoạn kiểm tra của quá trình vòng đời và trong bất cứ giai đoạn vận hành nào. Quá trình đo được tạo lập khi thực hiện sản phẩm phần mềm trong môi trường hệ thống mà nó được dự kiến vận hành.

Các phép đánh giá sử dụng đo sản phẩm có đáp ứng các yêu cầu của người sử dụng xác định đạt được các mục đích xác định với tính hiệu quả, năng suất, độ an toàn và sự thỏa mãn trong các ngữ cảnh sử dụng xác định hay không. Điều này chỉ có thể đạt được trong môi trường hệ thống thực tiễn.

Các nhu cầu chất lượng người sử dụng có thể được xác định như các yêu cầu chất lượng bởi các phép đánh giá khi sử dụng, bởi các phép đánh giá ngoài, và thỉnh thoảng bằng các phép đánh giá trong. Các yêu cầu này được xác định bởi các phép đo phải được sử dụng như tiêu chuẩn khi sản phẩm được đánh giá.

Khuyến nghị sử dụng các phép đánh giá trong có mối quan hệ càng mạnh càng tốt với các phép đánh giá ngoài mục tiêu sao cho chúng có thể được sử dụng dự báo các giá trị của các phép đánh giá ngoài. Tuy nhiên, thường khó thiết kế mô hình lý thuyết chặt chẽ cung cấp mối quan hệ mạnh giữa các phép đánh giá trong và các phép đánh giá ngoài. Do đó, mô hình giả thuyết có thể chứa các yếu tố mập mờ có thể được thiết kế và phát triển của quan hệ có thể được mô hình hóa thống kê trong quá trình sử dụng các phép đánh giá.

Các khuyến nghị và yêu cầu liên quan đến tính xác nhận và tin cậy được đưa ra trong ISO/IEC 9126-1, Phụ lục A.4. Các xem xét chi tiết bổ sung khi sử dụng các phép đánh giá được đưa ra trong Phụ lục A của Tiêu chuẩn.

Đọc và sử dụng các bảng phép đánh giá

Các phép đánh giá trong điều 7 được phân loại theo các đặc tính và các đặc tính nhỏ trong ISO/IEC 9126-1. Các thông tin sau được đưa ra cho từng phép đánh giá trong bảng:

a) Tên phép đánh giá: Các phép đánh giá tương ứng trong bảng các phép đánh giá trong và các phép đánh giá ngoài có tên giống nhau.
b) Mục đích của phép đánh giá: Được biểu diễn như câu hỏi cần trả lời bởi ứng dụng của phép đánh giá
c) Phương pháp áp dụng: Cung cấp các nét chính của áp dụng.
d) Phép đo, công thức và tính toán các thành phần dữ liệu: Cung cấp công thức đo và giải thích ý nghĩa các thành phần dữ liệu sử dụng.

CHÚ THÍCH: Trong mội số trường hợp nhiều hơn một công thức được đề xuất cho phép đánh giá.

e) Chuyển đổi giá trị đo: Cung cấp dải và các giá trị được ưu tiên
f) Loại thang đánh giá: Loại thang được sử dụng bởi phép đánh giá. Các loại thang sử dụng là Thang danh nghĩa, Thang thứ tự, Thang khoảng cách, Thang tỷ lệ và Thang tuyệt đối.

CHÚ THÍCH: Giải thích chi tiết trong Phụ lục C.

g) Loại hệ đo: Các loại được sử dụng là Loại kích thước (như kích cỡ chức năng, kích cỡ nguồn), Loại thời gian (như thời gian trôi qua, thời gian người sử dụng), Loại đếm (như số lượng các thay đổi, số lượng các sự cố).

CHÚ THÍCH: Giải thích chi tiết trong Phụ lục C.

h) Đầu vào cho phép đo: Nguồn của dữ liệu sử dụng trong phép đo.
i) Tham chiếu ISO/IEC 12207 SLCP: Xác định quá trình vòng đời sản phẩm các phép đánh giá được áp dụng.
j) Đối tượng sử dụng: Xác định người sử dụng các kết quả đo.
Bảng các phép đánh giá

Các phép đánh giá đưa ra trong mục này không tham vọng là bộ đầy đủ mọi khía cạnh và có thể chưa được xác nhận. Chúng được đưa ra theo các đặc tính và các đặc tính nhỏ của chất lượng phần mềm, theo thứ tự được trình bày trong ISO/IEC 9126-1.

Các phép đánh giá, có thể có khả năng áp dụng, không giới hạn trong danh sách liệt kê này. Các phép đánh giá cụ thể bổ sung cho các mục đích riêng được cung cấp trong các tài liệu liên quan khác, như đo kích cỡ chức năng hoặc đo tính hiệu quả thời gian chính xác.

CHÚ THÍCH: Khuyến nghị xem xét phép đánh giá hoặc phép đo cụ thể từ các tiêu chuẩn cụ thể, các báo cáo kỹ thuật hoặc hướng dẫn. Đo kích cỡ chức năng được định nghĩa trong ISO/IEC 14143. Ví dụ đo tính hiệu quả thời gian chính xác có thể xem trong ISO/IEC 14756.

Các phép đánh giá phải được xác nhận trước khi áp dụng trong môi trường cụ thể (xem Phụ lục A).

CHÚ THÍCH: Danh sách các phép đánh giá này chưa phải đã kết thúc, và có thể sẽ được chỉnh sửa trong các phiên bản tương lai của Tiêu chuẩn này.

7.1. Các phép đánh giá chức năng

Phép đánh giá chức năng ngoài phải có khả năng đo thuộc tính như hoạt động chức năng của hệ thống chứa phần mềm. Hoạt động của hệ thống có thể được giám sát từ các ngữ cảnh sau:

a) Sự khác nhau giữa các kết quả đã được thực hiện thực tế và đặc tả yêu cầu chất lượng;

CHÚ THÍCH : Đặc tả yêu cầu chất lượng cho tính chức năng thông thường được mô tả như yêu cầu trong đặc tả.

b) Sự không thỏa đáng phát hiện trong vận hành thực tế của người sử dụng không được công bố nhưng được hàm ý như một yêu cầu trong đặc tả.

CHÚ THÍCH: Khi các vận hành hoặc các chức năng hàm ý được phát hiện, chúng phải được cân nhắc, chấp thuận và công bố trong đặc tả. Mở rộng được thực hiện của chúng phải được đồng thuận.

7.1.1. Các phép đánh giá tính phù hợp

Phép đánh giá tính phù hợp ngoài phải có khả năng đo thuộc tính như sự xuất hiện của chức năng không thỏa mãn hoặc sự xuất hiện của vận hành không thỏa mãn trong quá trình kiểm tra và vận hành của người sử dụng của hệ thống.

Chức năng hoặc vận hành không thỏa mãn có thể là :

a) Các chức năng và vận hành không hoạt động như trong hướng dẫn sử dụng hoặc đặc tả yêu cầu.
b) Các chức năng và vận hành không đưa ra kết quả hợp lý và chấp nhận được để đạt được mục tiêu cụ thể đã định của nhiệm vụ người sử dụng.

Bảng 1- Các phép đánh giá tính phù hợp

Các phép đánh giá tính phù hợp ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Tính đầy đủ chức năng

Các chức năng được đánh giá được đáp ứng đầy đủ như thế nào?

So sánh số lượng các chức năng thực hiện các nhiệm vụ xác định và số lượng các chức năng được đánh giá

X = 1 – A/B

A= Số lượng các chức năng có lỗi phát hiện khi đánh giá

B= Số lượng các chức năng được đánh giá

0<=X<=1

Càng gần 1.0 thì càng được thỏa mãn

Tuyệt đối

X = Số đếm/Số đếm

A = Số đếm

B= Số đếm

Đặc tả yêu cầu

Báo cáo đánh giá

6.5 Xác nhận

6.3 Đảm bảo chất lượng

5.3 Kiểm tra chất lượng

Người phát triển

SQA

Tính hoàn thiện của triển khai chức năng

Việc triển khai chức năng đối với các đặc tả yêu cầu được hoàn thiện như thế nào?

Thực hiện các kiểm tra chức năng (Kiểm tra kiểu hộp đen) của hệ thống theo các đặc tả yêu cầu.

Đếm số lượng các chức năng bị thiếu được phát hiện trong quá trình đánh giá và so sánh với số lượng các chức năng được mô tả trong đặc tả yêu cầu.

X = 1 – A/B

A = Số lượng các chức năng bị thiếu được phát hiện trong quá trình đánh giá

B = Số lượng các chức năng được mô tả trong đặc tả yêu cầu

0<=X<=1

Càng gần 1 càng tốt.

Tuyệt đối

A = Số đếm

B= Số đếm

X = Số đếm/Số đếm

Đặc tả yêu cầu

Báo cáo đánh giá

6.5 Xác nhận

6.3 Đảm bảo chất lượng

5.3 Kiểm tra chất lượng

Người phát triển

SQA

CHÚ THÍCH:

1. Đầu vào quá trình đánh giá là đặc tả yêu cầu cập nhật. Bất kỳ thay đổi nào được xác định trong vòng đời phải được áp dụng cho các đặc tả yêu cầu trước khi sử dụng trong quá trình đo.

2. Phép đánh giá này được đề xuất như một sử dụng thực nghiệm.

CHÚ THÍCH: Bất cứ chức năng bị thiếu nào cũng không thể kiểm tra bằng các phép đánh giá bởi vì nó không được thực hiện. Để phát hiện chức năng bị thiếu, chúng ta đề xuất rằng mỗi chức năng được ghi trong chức năng yêu cầu được kiểm tra lần lượt trong quá trình đánh giá chức năng. Các kết quả như vậy trở thành đầu vào cho phép đánh giá “Tính hoàn thiện triển khai chức năng”. Đối với các chức năng được thực hiện nhưng không đầy đủ phát hiện được, thì đề xuất rằng mỗi chức năng được kiểm tra cho nhiều nhiệm vụ đặc tả. Các kết quả này trở thành đầu vào cho phép đánh giá “Tính đầy đủ chức năng’. Do đó, các người sử dụng các phép đánh giá được đề nghị sẽ sử dụng cả hai phép đánh giá trong quá trình đánh giá chức năng.

Mức độ bao phủ của triển khai chức năng

Việc triển khai chức năng chính xác đến mức nào?

Thực hiện các bài kiểm tra chức năng (kiểm tra kiểu hộp đen) của hệ thống theo các đặc tả yêu cầu.

Tính toán số lượng các chức năng thực hiện không đúng hoặc bị thiếu được phát hiện trong quá trình đánh giá và so sánh với số lượng các chức năng được mô tả trong đặc tả yêu cầu. Đếm số các chức năng hoàn thành và các chức năng không hoàn thành

X=1- A/B

A= Số lượng các chức năng triển khai không đúng hoặc chức năng bị thiếu được phát hiện trong quá trình đánh giá.

B= Số lượng các chức năng được mô tả trong đặc tả yêu cầu

0<=X<=1

Càng gần 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Đặc tả yêu cầu

Báo cáo đánh giá

6.5 Xác nhận

6.3 Đảm bảo chất lượng

5.3 Kiểm tra chất lượng

Người phát triển

SQA

CHÚ THÍCH:

2. Phép đo này biểu diễn kiểm tra cổng nhị phân của việc xác định sự hiện diện của đặc trưng

Tính ổn định đặc tính chức năng (tính không ổn định)

Các đặc tính chức năng ổn định như thế nào sau khi đi vào hoạt động

Đếm số lượng các chức năng được mô tả trong đặc tính chức năng bị thay đổi sau khi hệ thống đi vào hoạt động và so sánh với tổng số lượng các chức năng được mô tả trong đặc tả yêu cầu

X=1- A/B

A= Số lượng các chức năng bị thay đổi khi đi vào hoạt động bắt đầu từ khi hoạt động

B = Số lượng chức năng được mô tả trong đặc tả yêu cầu

0<=X<=1

X Càng gần 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Kích cỡ

Đặc tả yêu cầu

Báo cáo đánh giá

6.8 Giải quyết vấn đề

5.4 Vận hành

Người phát triển

SQA

CHÚ THÍCH: Phép đánh giá này được đề xuất như một sử dụng thực nghiệm

7.1.2 Các phép đánh giá tính chính xác

Phép đánh giá tính chính xác ngoài phải có khả năng đo thuộc tính như tần suất của người sử dụng gặp phải sự xuất hiện của các sự kiện không chính xác bao gồm:

a) Kết quả không đúng hoặc không chính xác gây ra bởi dữ liệu không thỏa đáng; ví dụ, dữ liệu với quá ít chữ số có nghĩa cho tính toán đúng.
b) Trái ngược giữa các thủ tục vận hành thực tế và các mô tả trong hướng dẫn vận hành.
c) Khác nhau giữa các kết quả thực tế và kết quả mong đợi hợp lý của các nhiệm vụ thực hiện trong quá trình vận hành.

Bảng 2 – Bảng các phép đánh giá tính chính xác

Các phép đánh giá tính chính xác ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Độ chính xác mong đợi	Sự khác nhau giữa các kết quả thực và các kết quả mong đợi hợp lý có chấp nhận được không?	Thực hiện các trường hợp kiểm tra chuẩn đầu vào và đầu ra với các kết quả mong đợi hợp lý. Đếm số trường hợp bắt gặp bởi người sử dụng với sự khác biệt không thể chấp nhận được với các kết quả mong đợi hợp lý	X = A/T A = Số trường hợp bắt gặp bởi người sử dụng mà khác biệt với kết quả mong đợi lớn hơn giới hạn cho phép T = Thời gian thực hiện	0<=X Càng gần bằng 0 càng tốt	Tỷ lệ	A = Số đếm T = Thời gian X = Số đếm/Thời gian	Đặc tả yêu cầu Hướng dẫn sử dụng Ý kiến sử dụng Báo cáo kiểm tra	6.5 Xác nhận 6.3 Đảm bảo chất lượng	Người phát triển Người sử dụng
CHÚ THÍCH: Các kết quả mong đợi hợp lý có thể được xác định trong đặc tả yêu cầu, hướng dẫn sử dụng, hoặc là giá trị mong muốn của người sử dụng.
Độ chính xác tính toán	Người sử dụng cuối thường gặp phải các kết quả không chính xác như thế nào?	Ghi nhận số lượng các tính toán không chính xác dựa trên các đặc tính	X = A/T A = Số các tính toán không chính xác người sử dụng gặp phải T = Thời gian thực hiện	0<=X X càng gần 0 càng tốt	Tỷ lệ	A = Số đếm T = Thời gian X = Số đếm/Thời gian	Đặc tả yêu cầu Báo cáo kiểm tra	6.5 Xác nhận 6.3 Đảm bảo chất lượng	Người phát triển Người sử dụng
Độ chính xác	Người sử dụng cuối thường gặp phải các kết quả với độ chính xác không thỏa mãn như thế nào?	Ghi nhận số lượng các kết quả với độ chính xác không thỏa mãn	X = A/T A = Số các kết quả người sử dụng gặp phải với độ chính xác khác với yêu cầu T = Thời gian thực hiện	0<=X X càng gần 0 càng tốt	Tỷ lệ	A = Số đếm T = Thời gian X = Số đếm/Thời gian	Đặc tả yêu cầu Báo cáo kiểm tra	6.5 Xác nhận 6.3 Đảm bảo chất lượng	Người phát triển Người sử dụng
CHÚ THÍCH: Các thành phần dữ liệu cho tính toán của các phép đánh giá ngoài được thiết kế sử dụng thông tin có thể truy cập từ ngoài, vì rằng như vậy sẽ thuận tiện cho người sử dụng cuối, các nhà khai thác, người bảo trì hoặc người mua hàng sử dụng các phép đo ngoài. Do đó, phép đo trên cơ sở thời gian sẽ thường xuất hiện trong các phép đánh giá ngoài và nó sẽ khác với các phép đánh giá trong.

7.1.3. Các phép đánh giá khả năng tương tác

Phép đánh giá khả năng tương tác ngoài phải có khả năng đo thuộc tính như số lượng các chức năng hoặc sự xuất hiện tính kém liên hệ bao gồm dữ liệu và lệnh, mà chúng được truyền tải trước đó giữa sản phẩm phần mềm và các hệ thống khác, các sản phẩm phần mềm khác, hoặc thiết bị được kết nối.

Bảng 3 – Bảng các phép đánh giá khả năng tương tác

Các phép đánh giá khả năng tương tác ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Khả năng trao đổi dữ liệu (Dựa trên định dạng dữ liệu)	Các chức năng giao diện trao đổi cho dữ liệu xác định chuyển giữa các hoạt động được thực hiện chính xác như thế nào?	Kiểm tra mỗi định dạng bản ghi đầu ra của chức năng giao diện đường xuống của hệ thống theo các đặc tính trường dữ liệu. Đếm số định dạng dữ liệu được chấp thuận để trao đổi với phần mềm hoặc hệ thống khác trong quá trình kiểm tra trao đổi dữ liệu so với tổng số.	X = A/B A = Số lượng định dạng dữ liệu được chấp thuận trao đổi thành công với phần mềm hệ thống khác trong quá trình kiểm tra trao đổi dữ liệu. B = Tổng số định dạng dữ liệu được trao đổi	0<=X<=1 X càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Đặc tả yêu cầu (Hướng dẫn sử dụng) Báo cáo kiểm tra	6.5 Xác nhận	Người phát triển
CHÚ THÍCH: Khuyến nghị kiểm tra thực hiện dữ liệu xác định.
Khả năng trao đổi dữ liệu (Dựa vào cố gắng thực hiện thành công của người sử dụng)	Người sử dụng thường trao đổi dữ liệu thất bại giữa phần mềm đích và phần mềm khác như thế nào? Truyền dữ liệu giữa phần mềm đích và phần mềm khác thường thành công như thế nào? Liệu người sử dụng có thường thành công trong trao đổi dữ liệu không	Đếm số trường hợp chức năng giao diện được sử dụng và bị lỗi.	a) X = 1 – A/B A = Số trường hợp người sử dụng thất bại khi truyền dữ liệu với phần mềm hoặc hệ thống khác B = Số trường hợp người sử dụng cố gắng trao đổi dữ liệu b) Y = A/T T = Khoảng thời gian thực hiện	0<=X<=1 Càng gần bằng 1.0 càng tốt 0<=Y Càng gần bằng 0 càng tốt	a) Tuyệt đối b) Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm Y = Số đếm/Thời gian T = Thời gian	Đặc tả yêu cầu (Hướng dẫn sử dụng) Báo cáo kiểm tra	5.4 Vận hành	Người bảo trì

7.1.4. Các phép đánh giá tính an toàn

Phép đánh giá tính an toàn ngoài phải có khả năng đo thuộc tính như số chức năng cùng với, hoặc sự xuất hiện các vấn đề an toàn, chúng là:

a) Thất bại ngăn chặn lỗ hổng của thông tin hay dữ liệu cần bảo vệ;
b) Thất bại ngăn chặn mất dữ liệu quan trọng;
c) Thất bại bảo vệ chống lại truy cập bất hợp pháp hay vận hành bất hợp pháp.

CHÚ THÍCH:

Khuyến nghị các kiểm tra thâm nhập được thực hiện để mô phỏng tấn công, vì rằng tấn công an toàn như vậy không thường xuyên xảy ra trong các quá trình kiểm tra thông thường. Các phép đánh giá an toàn thực tế có thể chỉ được tạo ra trong “môi trường hệ thống thực tế”, là “chất lượng sử dụng”.
Các yêu cầu bảo vệ an toàn thay đổi rộng từ trường hợp hệ thống độc lập đến trường hợp hệ thống kết nối với Internet. Việc xác định tính chức năng yêu cầu và bảo đảm tính hiệu quả của chúng đã được trình bày kỹ trong các tiêu chuẩn liên quan. Người sử dụng tiêu chuẩn này phải xác định các chức năng an toàn sử dụng các phương pháp và tiêu chuẩn thích đáng trong các trường hợp mà ảnh hưởng của của bất kỳ hỏng hóc nào gây ra đều quan trọng hoặc có tính quyết định. Trong các trường hợp khác người sử dụng có thể giới hạn phạm vi của mình để chấp nhận các phép đo bảo vệ “Công nghệ thông tin” nói chung như các phương pháp dự phòng bảo vệ virus và quản lý truy cập.

Bảng 4 – Bảng các phép đánh giá tính an toàn

Các phép đánh giá tính an toàn ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Khả năng kiểm toán truy cập	Theo dõi kiểm toán truy cập liên quan đến truy cập của người sử dụng vào hệ thống và dữ liệu được hoàn thành như thế nào?	Đánh giá lượng truy cập được hệ thống ghi lại trong cơ sở dữ liệu lược sử truy cập.	X = A/B A = Số lượng “người sử dụng truy cập vào hệ thống và dữ liệu” được ghi trong cơ sở dữ liệu lược sử truy cập B = Số lượng “người sử dụng truy cập vào hệ thống và dữ liệu” được thực hiện trong quá trình đánh giá	0<=X<=1 Càng gần 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Đặc tả yêu cầu Báo cáo kiểm tra	6.5 Xác nhận	Người phát triển
CHÚ THÍCH: 1 Các truy nhập vào dữ liệu có thể được đo chỉ với các hoạt động kiểm tra. 2. Đánh giá này được đề xuất như một sử dụng thực nghiệm. 3. Khuyến nghị việc kiểm tra xâm nhập nên được thực hiện để mô phỏng các tấn công, vì các tấn công an toàn như vậy có thể không xảy ra trong quá trình kiểm tra thông thường. Các đánh giá an toàn thực tế có thể chỉ được thực hiện trong “môi trường hệ thống thực tế”, nó chính là “chất lượng sử dụng”. 4. Bản ghi “truy cập của người sử dụng vào hệ thống và dữ liệu” có thể bao gồm “bản ghi phát hiện virus’ cho việc bảo vệ virus. Mục đích của khái niệm bảo vệ virus là tạo ra các bảo vệ hợp lý mà với chúng sự xuất hiện của các virus máy tính có thể được ngăn chặn hoặc phát hiện càng sớm càng tốt.
Ngăn chặn sai lạc dữ liệu	Tuần sát của các sự kiện sai lạc dữ liệu là bao nhiêu?	Đếm sự xuất hiện của các sự kiện sai lạc dữ liệu lớn và nhỏ	a) X = 1 -A/N A = Số lần sự kiện sai lạc dữ liệu lớn xảy ra N = Số trường hợp kiểm tra chuẩn cố gắng gây ra sai lạc dữ liệu b) Y = 1 – B/N B = Số lần sự kiện sai lạc dữ liệu nhỏ xảy ra c) Z = A/T hoặc B/T T = Khoảng thời gian thực hiện (trong quá trình kiểm tra)	0<=X<=1 Càng gần bằng 1.0 càng tốt 0<=Y<=1 Càng gần bằng 1.0 càng tốt 0<=Z Càng gần bằng 0 càng tốt	a) Tuyệt đối b) Tuyệt đối c) Tỷ lệ	T = Thời gian Z = Số đếm/Thời gian	Đặc tả kiểm tra Báo cáo kiểm tra Báo cáo thực hiện	6.5 Xác nhận 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người bảo trì Người phát triển
CHÚ THÍCH: 1. Cần quá trình kiểm tra thực hiện khác thường chuyên sâu để đạt được các sự kiện sai lạc dữ liệu lớn và nhỏ. 2. Khuyến nghị phân cấp tác động của các sự kiện sai lạc dữ liệu như các ví dụ sau: Sự kiện sai lạc dữ liệu lớn (tai họa): • Không thể sao chép lại và hồi phục lại; • Phân loại sai lệch thứ hai quá rộng; • Tính quan trọng của bản thân dữ liệu. Sự kiện sai lạc dữ liệu nhỏ: • Không thể sao chép lại và hồi phục lại và; • Không có phân loại sai lệch thứ hai; • Tính quan trọng của bản thân dữ liệu. 3. Các thành phần dữ liệu cho tính toán đánh giá ngoài được thiết kế sử dụng thông tin truy cập từ ngoài, vì rằng nó sẽ thuận tiện cho người sử dụng cuối, các nhà khai thác, bảo trì hay người mua sản phẩm sử dụng các đánh giá ngoài. Do đó, các sự kiện đếm và số lần sử dụng ở đây khác so với đánh giá trong tương ứng. 4. Khuyến nghị rằng các bài kiểm tra thâm nhập được thực hiện để mô phỏng các tấn công, vì rằng các tấn công an toàn như vậy không thường xuất hiện trong các quá trình kiểm tra thông thường. Các phép đánh giá an toàn thực tế chỉ được thực hiện trong “môi trường hệ thống thực”, chính là “chất lượng sử dụng”. 5. Phép đánh giá này được đề xuất như một sử dụng thực nghiệm. 6. Dự phòng dữ liệu là một trong những phương pháp ngăn chặn sai lạc dữ liệu. Việc tạo ra dự phòng đảm bảo dữ liệu cần thiết có thể được lưu trữ nhanh chóng trong khi một phần của dữ liệu đang sử dụng bị mất. Tuy nhiên, dự phòng dữ liệu chỉ liên quan như một phần của toàn bộ các phép đánh giá tính tin cậy trong tài liệu này. 7. Đề xuất phép đánh giá này được sử dụng thực nghiệm.

7.1.5. Các phép đánh giá tuân thủ của tính năng

Phép đánh giá tuân thủ tính năng ngoài phải có khả năng đo thuộc tính như số lượng chức năng cùng với, hoặc sự xuất hiện của các vấn đề tuân thủ, mà sản phẩm phần mềm không tôn trọng triệt để với các tiêu chuẩn, quy ước, hợp đồng hoặc các yêu cầu quy định khác.

Bảng 5 – Bảng các phép đánh giá tuân thủ của tính năng

Các phép đánh giá tuân thủ của tính năng ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tuân thủ của tính năng	Tính năng của sản phẩm tuân thủ quy định, tiêu chuẩn, quy ước áp dụng như thế nào?	Đếm số điều khoản yêu cầu tuân thủ đã được đáp ứng và so sánh với điều khoản yêu cầu tuân thủ trong đặc tả. Thiết kế các bài kiểm tra tương ứng với các điều khoản tuân thủ. Thực hiện quá trình kiểm tra chức năng cho các bài kiểm tra này. Đếm số điều khoản tuân thủ đã được thỏa mãn.	X = 1 – A/B A = Số các điều khoản chức năng chưa được thực hiện trong quá trình kiểm tra B = Tổng số điều khoản tuân thủ tính năng được xác định	0<=X<=1 Càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Mô tả sản phẩm (Hướng dẫn sử dụng hoặc Đặc tả) của tuân thủ và các tiêu chuẩn, quy ước, hoặc quy định liên quan Đặc tả và báo cáo kiểm tra	5.3 Kiểm tra chất lượng 6.5 Xác nhận	Người cung cấp Người sử dụng
CHÚ THÍCH: 1. Có thể là có ích nếu như thu thập các giá trị đo được theo thời gian, để phân tích xu hướng gia tăng các điều khoản tuân thủ thỏa mãn hay không. 2. Đề xuất nên đếm số các lỗi, vì rằng việc phát hiện vấn đề là mục tiêu của quá trình kiểm tra có hiệu quả và nó cũng thích hợp cho quá trình đếm và ghi nhận.
Tuân thủ tiêu chuẩn giao nhận	Các giao diện tuân thủ các quy định, tiêu chuẩn và quy ước áp dụng như thế nào?	Đếm số giao diện đáp ứng điều kiện tuân thủ yêu cầu và so sánh với số với số giao diện yêu cầu tuân thủ như trong đặc tả. CHÚ THÍCH: Tất cả các thuộc tính xác định của tiêu chuẩn phải được kiểm tra.	X = A/B A = Số lượng giao diện được triển khai chính xác như đã xác định B = Tổng số giao diện yêu cầu tuân thủ	0<=X<=1 Càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Mô tả sản phẩm theo tính tuân thủ và các tiêu chuẩn, quy ước, hoặc quy định Đặc tả và báo cáo kiểm tra	6.5 Xác nhận	Người phát triển

7.2. Các phép đánh giá tính tin cậy

Phép đánh giá tính tin cậy ngoài phải có khả năng đo các thuộc tính liên quan tới hoạt động của hệ thống mà phần mềm là một phần của nó trong quá trình thực hiện kiểm tra để chỉ ra khả năng của tính tin cậy của phần mềm trong hệ thống trong suốt quá trình vận hành. Các hệ thống và phần mềm không phân biệt với nhau trong phần lớn trường hợp.

7.2.1. Các phép đánh giá tính kỹ lưỡng

Phép đánh giá tính kỹ lưỡng ngoài phải có khả năng đo các thuộc tính như phần mềm không gặp sự cố gây ra bởi lỗi tồn tại trong chính bản thân phần mềm.

Bảng 6 – Bảng các phép đánh giá tính kỹ lưỡng

Các phép đánh giá tính kỹ lưỡng ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Ước lượng mật độ lỗi tiềm tàng

Có bao nhiêu vấn đề vẫn tồn tại có thể xảy ra như các lỗi tương lai?

Đếm số lượng các lỗi được phát hiện trong giai đoạn thử nghiệm xác định và dự báo số lượng tiềm tàng các lỗi tương lai sử dụng mô hình ước lượng tăng tính tin cậy

X = {ABS(A1-A2)}/B

(X = Mật độ lỗi tiềm tàng còn lại được ước lượng)

ABS()= Giá trị tuyệt đối

A1= Số lượng tổng các lỗi tiềm tàng được dự báo trong sản phẩm phần mềm

A2= Tổng số lỗi phát hiện được trong thực tế

B= Kích cỡ sản phẩm

0<=X

Phụ thuộc vào giai đoạn kiểm tra.

Càng về giai đoạn cuối, các giá trị càng nhỏ càng tốt

Tuyệt đối

A1 = Số đếm

A2 = Số đếm

B = Kích thước

X = Số đếm/Kích thước

Báo cáo kiểm tra

Báo cáo khai thác

Báo cáo các vấn đề

5.3 Tích hợp

5.3 Kiểm tra chất lượng

5.4 Vận hành

6.5 Xác nhận

6.3 Đảm bảo chất lượng

Người phát triển

Người kiểm tra

SQA

Người sử dụng

CHÚ THÍCH:

1. Khi tổng số các lỗi phát hiện được thực tế lớn hơn tổng số lỗi tiềm tàng dự báo, thì khuyến nghị dự báo lại và ước lượng số lớn hơn. Các số được ước lượng lớn hơn được dự định để dự báo các lỗi tiềm tàng hợp lý, nhưng không làm cho sản phẩm tốt hơn.

2. Khuyến nghị sử dụng một số các mô hình ước lượng tăng tính tin cậy và chọn mô hình thích hợp nhất và lặp lại dự báo với các lỗi phát hiện được giám sát.

3. Sẽ có ích nếu dự báo giới hạn trên và dưới của các lỗi tiềm tàng.

4. Cần phải chuyển đổi giá trị (X) vào đoạn <0,1> nếu thực hiện tổng kết các đặc trưng.

Mật độ lỗi đối chiếu với các trường hợp kiểm tra chuẩn

Có bao nhiêu lỗi được phát hiện trong giai đoạn thử nghiệm xác định?

Đếm số lượng các lỗi được phát hiện và số các trường hợp kiểm tra chuẩn được thực hiện

X = A1/A2

A1 = Số lượng các lỗi được phát hiện

A2 = Số lượng các trường hợp kiểm tra chuẩn được thực hiện

0<=X

Phụ thuộc vào giai đoạn kiểm tra.

Càng về giai đoạn cuối, các giá trị càng nhỏ càng tốt.

Tuyệt đối

A1 = Số đếm

A2 = Số đếm

B = Kích thước

X = Số đếm/Kích thước

Báo cáo kiểm tra

Báo cáo khai thác

Báo cáo các vấn đề

5.3 Tích hợp

5.3 Kiểm tra chất lượng

5.4 Khai thác

6.5 Xác nhận

6.3 Đảm bảo chất lượng

Người phát triển

Người kiểm tra

SQA

CHÚ THÍCH:

1. Càng lớn càng tốt trong các giai đoạn đầu của quá trình kiểm tra. Ngược lại, càng bé càng tốt trong các giai đoạn sau của quá trình kiểm tra hoặc vận hành. Khuyến nghị giám sát xu hướng của phép đo này theo thời gian.

2. Phép đánh giá này phụ thuộc vào sự đầy đủ của các trường hợp kiểm tra chuẩn sao cho chúng phải được thiết kế bao hàm các trường hợp thích hợp, tức là các trường hợp bình thường, ngoại lệ và không bình thường.

3. Cần phải chuyển đổi giá trị (X) vào đoạn <0,1> nếu thực hiện tổng kết các đặc trưng.

Giải quyết lỗi

Có bao nhiêu trường hợp lỗi được giải quyết?

Đếm số lượng các lỗi không xuất hiện lại trong giai đoạn thử nghiệm xác định dưới các điều kiện tương tự nhau.

Duy trì báo cáo giải quyết các vấn đề mô tả tình trạng của tất cả các lỗi.

X = A1/A2

A1 = Số lượng các lỗi được giải quyết

A2 = Tổng số các lỗi được phát hiện trong thực tế

0<=X<=1

Càng tiến tới 1.0 càng tốt, vì càng có nhiều lỗi được giải quyết.

Tuyệt đối

A1 = Số đếm

A2 = Số đếm

A3 = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành (kiểm tra)

5.3 Tích hợp

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

SQA

Người bảo trì

CHÚ THÍCH:

1. Khuyến nghị giám sát xu hướng khi sử dụng phép đo này.

2. Tổng số lỗi tiềm tàng dự báo có thể được ước lượng sử dụng các mô hình tăng tính tin cậy được điều chỉnh với dữ liệu quá khứ thực tế liên quan với sản phẩm phần mềm tương tự. Trong trường hợp như vậy, số lượng của các lỗi thực tế và dự báo có thể so sánh được và số lượng lỗi chưa được giải quyết còn lại có thể đo được.

Mật độ lỗi

Có bao nhiêu lỗi được phát hiện trong giai đoạn thử nghiệm xác định?

Đếm số lượng các lỗi được phát hiện và tính toán mật độ.

X = A/B

A1 = Số lượng các lỗi được phát hiện

B = Kích thước sản phẩm

0<=X

Phụ thuộc vào giai đoạn kiểm thử.

Càng về giai đoạn cuối, các giá trị càng nhỏ càng tốt.

Tuyệt đối

A = Số đếm

B = Kích thước

X = Số đếm/Kích thước

Báo cáo kiểm tra

Báo cáo vận hành

Báo cáo các vấn đề

5.3 Tích hợp

5.3 Kiểm tra chất lượng

5.4 Vận hành

6.3 Đảm bảo chất lượng

Người phát triển

Người kiểm tra

SQA

CHÚ THÍCH

1. Càng lớn càng tốt, trong giai đoạn đầu của quá trình kiểm tra. Ngược lại, càng nhỏ càng tốt trong giai đoạn sau của quá trình kiểm tra hoặc vận hành. Khuyến nghị giám sát xu hướng của phép đo theo thời gian.

2. Số lượng các lỗi được phát hiện chia cho số lượng các trường hợp kiểm tra chuẩn chỉ thị tính hiệu quả của các trường hợp kiểm tra chuẩn.

3. Cần phải chuyển đổi giá trị (X) vào đoạn <0,1> nếu thực hiện tổng kết các đặc trưng.

4. Khi đếm số lỗi, chú ý các điểm sau:

– Có khả năng bị lặp, vì rằng nhiều báo cáo có thể cùng một lỗi như các báo cáo khác;

– Có khả năng có các trường hợp không phải lỗi, vì rằng người sử dụng hoặc người kiểm tra có thể không xác định được các vấn đề của họ là lỗi vận hành, lỗi môi trường hay lỗi phần mềm

Loại bỏ lỗi

Có bao nhiêu lỗi đã được chỉnh sửa?

Đếm số lượng các lỗi được loại bỏ trong quá trình kiểm thử và so sánh với tổng số lỗi được phát hiện và tổng số lỗi được dự báo

a) X = A1/A2

A1 = Số lượng các lỗi được chỉnh sửa

A2 = Tổng số lỗi được phát hiện thực tế

b) Y = A1/A3

A3 = Tổng số lỗi tiềm tàng được dự báo trong sản phẩm phần mềm

0<=X<=1

Càng tiến tới 1.0 càng tốt vì càng có ít lỗi còn tồn tại.

0<=Y

Càng tiến tới 1.0 càng tốt vì càng có ít lỗi còn tồn tại.

a) Tuyệt đối

b) Tuyệt đối

A1 = Số đếm

A2 = Số đếm

A3 = Số đếm

X = Số đếm/Số đếm

Y = Số đếm/Số đếm

Báo cáo kiểm tra

Cơ sở dữ liệu của tổ chức

5.3 Tích hợp

5.3 Kiểm tra chất lượng

6.5 Xác nhận

6.3 Đảm bảo chất lượng

Người phát triển

SQA

Người bảo trì

CHÚ THÍCH:

1. Khuyến nghị giám sát xu hướng trong khoảng thời gian xác định..

2. Tổng số lỗi tiềm tàng dự báo có thể được ước lượng sử dụng các mô hình tăng tính tin cậy được điều chỉnh với dữ liệu quá khứ thực tế liên quan với sản phẩm phần mềm tương tự.

3. Khuyến nghị giám sát tỷ tệ giải quyết lỗi ước lượng Y, sao cho nếu Y>1, điều tra lý do của nó do nguyên nhân có nhiều lỗi được phát hiện hơn so với trước hoặc do nguyên nhân sản phẩm phần mềm có chứa số lượng lỗi không bình thường.

Trong trường hợp ngược lại, khi Y<1, điều tra nguyên nhân có ít lỗi hơn số lượng thông thường được phát hiện trong sản phẩm phần mềm hoặc do nguyên nhân quá trình kiểm tra không đủ để phát hiện tất cả các lỗi có khả năng.

4. Cần chuyển đổi giá trị (Y) vào đoạn <0,1> nếu thực hiện tổng kết các đặc tính.

5. Khi đếm số lỗi, chú ý khả năng lặp lại, vì rằng một số báo cáo có thể chứa cùng một lỗi như các báo cáo khác.

Thời gian trung bình giữa các lỗi (MTBF)

Phần mềm thường hay gặp lỗi trong quá trình hoạt động như thế nào?

Đếm số lượng các lỗi xuất hiện trong một giai đoạn nhất định của quá trình hoạt động và tính toán khoảng thời gian trung bình giữa các lỗi.

a) X = T1/A

b) Y = T2/A

T1 = Thời gian hoạt động

T2 = Tổng thời gian giữa các lần xuất hiện lỗi liên tiếp

A = Tổng số lượng lỗi được phát hiện thực tế (Các lỗi xuất hiện trong thời gian hoạt động được quan sát)

0<X, Y

Càng lớn càng tốt. Vì rằng thời gian mong đợi giữa các lỗi càng dài.

a) Tỷ lệ

b) Tỷ lệ

A = Số đếm

T1 = Thời gian

T2 = Thời gian

X = Thời gian/Số đếm

Y = Thời gian/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành (kiểm tra)

5.3 Tích hợp

5.3 Kiểm tra chất lượng

5.4 Kiểm tra vận hành

5.4 Vận hành

Người bảo trì

Người sử dụng

CHÚ THÍCH:

1. Các điều tra sau có thể có ích – phân bố khoảng thời gian giữa các xuất hiện lỗi.

– thay đổi thời gian trung bình theo khoảng thời gian hoạt động;

– phân bố chỉ thị chức năng nào xảy ra lỗi thường xuyên và có thường xuyên hoạt động vì sự phụ thuộc của chức năng và sử dụng.

2. Tính toán tỷ lệ lỗi hay tỷ lệ rủi ro có thể được sử dụng như một lựa chọn.

3. Cần chuyển đổi giá trị (Y) vào đoạn <0,1> nếu thực hiện tổng kết các đặc tính.

Tính bao phủ kiểm tra (Tính bao phủ của quá trình kiểm tra trong kịch bản hoạt động xác định)

Bao nhiêu trường hợp kiểm tra chuẩn yêu cầu đã được thực hiện trong quá trình kiểm tra?

Đếm số lượng các trường hợp kiểm tra chuẩn được thực hiện trong quá trình kiểm tra và so sánh với số trường hợp kiểm tra chuẩn yêu cầu để đạt được mức bao phủ kiểm tra thích hợp.

X = A/B

A = Số lượng các trường hợp kiểm tra chuẩn được thực hiện thực tế tiêu biểu cho kịch bản hoạt động trong quá trình kiểm tra

B = Số lượng các trường hợp kiểm tra chuẩn cần thực hiện để bao phủ các yêu cầu

0<=X<=1

Càng gần 1.0 tính bao phủ của kiểm tra càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Đặc tả yêu cầu

Đặc tả kiểm tra hoặc Hướng dẫn sử dụng

Báo cáo kiểm tra

Báo cáo vận hành

5.3 Kiểm tra chất lượng

6.5 Xác nhận

6.3 Đảm bảo chất lượng

Người phát triển

Người kiểm tra

SQA

CHÚ THÍCH: Các trường hợp kiểm tra chuẩn có thể được chuẩn hóa bằng kích thước phần mềm, tức là, mức bao phủ của mật độ kiểm tra Y=A/C, trong đó C= kích thước của sản phẩm được kiểm tra. Y càng lớn càng tốt. Kich thước có thể là kích thước chức năng mà người sử dụng có thể đo được

Tính kỹ lưỡng của kiểm tra

Liệu sản phẩm đã được kiểm tra cẩn thận?

Đếm số lượng các trường hợp kiểm tra chuẩn thành công đã được thực hiện thực tế và so sánh nó với tổng số lượng các trường hợp kiểm tra chuẩn được hoàn tất cho từng loại yêu cầu.

X = A/B

A = Số lượng các trường hợp kiểm tra chuẩn thành công trong quá trình kiểm tra hay hoạt động.

B = Số lượng các trường hợp kiểm tra chuẩn được hoàn tất để bao phủ các yêu cầu.

0<=X<=1

Càng tiến tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Đặc tả yêu cầu

Đặc tả kiểm tra hoặc Hướng dẫn sử dụng

Báo cáo kiểm tra

Báo cáo vận hành

5.3 Kiểm tra chất lượng

6.5 Xác nhận

6.3 Đảm bảo chất lượng

Người phát triển

Người kiểm tra

SQA

CHÚ THÍCH:

1. Khuyến nghị thực hiện quá trình kiểm tra ứng suất sử dụng dữ liệu quá khứ đặc biệt trong các giai đoạn cao điểm.

Cũng khuyến nghị chắc chắn rằng các loại kiểm tra sau được thực hiện và thành công:

• Kịch bản vận hành của người sử dụng;

• Ứng suất cao điểm;

• Đầu vào dữ liệu quá tải.

2. Các trường hợp kiểm tra chuẩn thành công được chuẩn hóa bằng kích thước phần mềm, tức là: mật độ các trường hợp kiểm tra chuẩn thành công Y=A/C. Trong đó C= Kích thước sản phẩm được kiểm tra.

Y càng lớn càng tốt.

Kích thước có thể là kích thước chức năng người sử dụng có thể đo.

7.2.2. Các phép đánh giá khả năng chịu lỗi

Phép đánh giá khả năng chịu lỗi ngoài phải liên quan đến khả năng phần mềm bảo trì mức hiệu năng nhất định trong các trường hợp lỗi vận hành hoặc vi phạm giao diện xác định của nó.

Bảng 7 – Bảng các phép đánh giá khả năng chịu lỗi

Các phép đánh giá khả năng chịu lỗi ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP		Đối tượng sử dụng
Tránh hỏng hóc	Sản phẩm phần mềm thường xuyên gây ra hỏng hóc cho toàn bộ môi trường sản xuất như thế nào?	Đếm số hỏng hóc xảy ra đối với số lượng lỗi. Nếu lỗi xảy ra trong quá trình vận hành thì phân tích bản ghi lược sử hoạt động của người sử dụng	X = 1-A/B A = Số hỏng hóc B = Số lỗi	0<=X<=1 Càng gần bằng 1.0 càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành	5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành		Người sử dụng Người bảo trì
CHÚ THÍCH: 1. Hỏng hóc có nghĩa là việc thực hiện bất kỳ nhiệm vụ nào của người sử dụng bị dừng lại cho đến khi hệ thống được khởi động lại, hoặc điều khiển của nó bị mất cho đến khi hệ thống được tắt cưỡng bức. 2. Khi không có hoặc có một vài lỗi được quan sát thấy, thời gian giữa các hỏng hóc có thể phù hợp hơn.
Tránh lỗi	Có bao nhiêu mẫu lỗi được đặt dưới sự kiểm soát để tránh các lỗi then chốt và nghiêm trọng?	Đếm số lượng mẫu lỗi đã được tránh và so sánh nó với số mẫu lỗi được xem xét.	X = A/B A = Số lần xuất hiện lỗi then chốt và nghiêm trọng tránh được trong các trường hợp kiểm tra chuẩn của các mẫu lỗi B = Số trường hợp kiểm tra chuẩn mẫu lỗi được tiến hành (hầu như gây ra lỗi) trong quá trình kiểm tra.	0<=X<=1 Càng gần bằng 1.0 càng tốt, vì người sử dụng có thể tránh được các lỗi then chốt và nghiêm trọng nhiều hơn	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Xác nhận		Người sử dụng Người bảo trì
CHÚ THÍCH: 1. Khuyến nghị phân loại các mức tránh lỗi là phần mở rộng của việc giảm nhẹ ảnh hưởng của lỗi, ví dụ như: – Khủng hoảng: toàn bộ hệ thống dừng/ hoặc cơ sở dữ liệu bị phá hủy nghiêm trọng; – Nghiêm trọng: các chức năng quan trọng không có khả năng hoạt động và không có cách nào khác để hoạt động (cách giải quyết khác); – Trung bình: phần lớn các chức năng hãy còn hoạt động, nhưng hiệu năng bị giới hạn xảy ra với hoạt động bị giới hạn hoặc có lựa chọn khác (cách giải quyết khác); – Nhỏ: có một vài chức năng trải qua hiệu năng giới hạn với hoạt động bị giới hạn; – Không có: không ảnh hưởng tới người sử dụng cuối. 2. Các mức tránh lỗi có thể dựa trên ma trận rủi ro được tạo thành từ tính nghiêm ngặt của kết quả và tần suất xuất hiện được đưa ra trong ISO/IEC 15026 Tích hợp hệ thống và phần mềm. 3. Các ví dụ mẫu lỗi: – dữ liệu ngoài dải; – sự bế tắc. Kỹ thuật phân tích cây lỗi có thể được sử dụng để phát hiện mẫu lỗi. 4. Các trường hợp kiểm tra chuẩn có thể bao gồm vận hành không đúng của con người.
Tránh vận hành sai	Có bao nhiêu chức năng được thực thi với khả năng tránh vận hành không đúng?	Đếm số các trường hợp kiểm tra chuẩn của vận hành sai đã được tránh gây ra những lỗi then chốt và nghiêm trọng và so sánh nó với số các trường hợp kiểm tra chuẩn đã được thực hiện của các mẫu vận hành sai được xem xét.	X = A/B A = Số lỗi then chốt và và nghiêm trọng đã được tránh B = Số trường hợp kiểm tra chuẩn được thực hiện của các mẫu vận hành sai (gần như chắc chắn sẽ tạo lỗi) trong quá trình kiểm tra	0<=X<=1 Càng gần bằng 1.0 càng tốt, vì càng nhiều vận hành sai của người sử dụng được tránh	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành		Người sử dụng Người bảo trì
CHÚ THÍCH: 1. Hỏng dữ liệu cũng được đưa thêm vào lỗi hệ thống. 2. Các mẫu vận hành sai • Các loại dữ liệu sai như các tham số; • Thứ tự dữ liệu đầu vào sai; • Thứ tự vận hành sai. 3. Kỹ thuật phân tích cây lỗi có thể được sử dụng để phát hiện các mẫu vận hành sai. 4. Phép đánh giá này có thể được sử dụng thực nghiệm.

7.2.3. Bảng các phép đánh giá khả năng phục hồi

Phép đánh giá khả năng phục hồi ngoài phải có khả năng đo các thuộc tính như phần mềm cùng hệ thống có khả năng thiết lập lại mức hiệu năng thỏa đáng và phục hồi dữ liệu trực tiếp ảnh hưởng trong trường hợp sự cố.

Bảng 8 – Bảng các phép đánh giá khả năng phục hồi

Các phép đánh giá khả năng phục hồi ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP		Đối tượng sử dụng
Khả năng sẵn sàng	Mức độ sẵn sàng sử dụng của hệ thống trong khoảng thời gian xác định như thế nào?	Hệ thống kiểm tra trong môi trường giống như quá trình sản xuất trong khoảng thời gian xác định thực hiện tất cả các thao tác của người sử dụng. Đo khoảng thời gian sửa chữa mỗi khi hệ thống không sẵn sàng trong quá trình thử nghiệm. Tính toán thời gian trung bình để sửa chữa	a) X = {(To/(To+Tr)} b) Y = A1/A2 To = Thời gian vận hành Tr = Thời gian sửa chữa A1 = Tổng số trường hợp sẵn sàng sử dụng của phần mềm khi sử dụng A2 = Tổng số trường hợp người sử dụng thử sử dụng phần mềm trong thời gian quan sát. Xuất phát từ quan điểm vận hành chức năng người sử dụng	0<=X<=1 Càng lớn và càng gần 1.0 càng tốt, vì người sử dụng có thể sử dụng phần mềm lâu hơn. 0<=Y<=1 Càng lớn và càng gần 1.0 càng tốt.	(a),(b) Tuyệt đối	To = Thời gian Tr = Thời gian X = Thời gian/Thời gian A1 = Số đếm A2 = Số đếm Y = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành	5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành		Người sử dụng Người bảo trì
CHÚ THÍCH: Khuyến nghị rằng phép đánh giá khả năng phục hồi chỉ bao gồm phục hồi tự động bằng phần mềm và không bao gồm công việc bảo trì của con người.
Thời gian chết trung bình	Thời gian trung bình hệ thống không sẵn sàng khi lỗi xảy ra trước khi khởi động lại từ từ là bao nhiêu?	Đo thời gian chết mỗi lần hệ thống không sẵn sàng trong khoảng thời gian thử nghiệm xác định và tính thời gian trung bình	X = T/N T = Tổng thời gian chết N = Số lần hỏng hóc quan sát được Trường hợp xấu nhất và phân bố của thời gian chất cũng phải được đo.	0<X Càng nhỏ càng tốt, vì thời gian hệ thống chết càng nhỏ hơn.	Tỷ lệ	T = Thời gian N = Số đếm X = Thời gian/Số đếm	Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Xác nhận		Người sử dụng Người bảo trì
CHÚ THÍCH: 1. Khuyến nghị rằng phép đánh giá khả năng phục hồi chỉ bao gồm phục hồi tự động bằng phần mềm và không bao gồm công việc bảo trì của con người 2. Cần chuyển đổi giá trị (X) tới đoạn <0,1> nếu tổng kết các đặc tính.
Thời gian phục hồi trung bình	Thời gian trung bình mà hệ thống hoàn thành việc phục hồi bắt đầu từ giai đoạn đầu của quá trình phục hồi là bao nhiêu?	Đo thời gian phục hồi toàn bộ cho mỗi lần hệ thống có sự cố trong khoảng thời gian thử nghiệm xác định và tính thời gian trung bình.	X = Tổng (T)/B T = Thời gian phục hồi hệ thống phần mềm bị lỗi tại mỗi thời điểm N = Số trường hợp hệ thống phần mềm được đưa vào phục hồi quan sát được	0<X Càng nhỏ càng tốt.	Tỷ lệ	T = Thời gian N = Số đếm X = Thời gian/Số đếm	Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Xác nhận		Người sử dụng Người bảo trì
CHÚ THÍCH: 1. Khuyến nghị đo thời gian lớn nhất của trường hợp xấu nhất hoặc đo phân bố thời gian phục hồi cho nhiều trường hợp. 2. Khuyến nghị rằng phép đánh giá khả năng phục hồi này chỉ bao gồm phục hồi tự động bằng phần mềm và không bao gồm công việc duy trì của con người. 3. Khuyến nghị phân biệt mức độ khó của phục hồi, ví dụ, phục hồi cơ sở dữ liệu bị phá hủy khó hơn so với phục hồi giao tác bị phá hủy. 4. Cần chuyển đổi giá trị (X) tới đoạn <0,1> nếu tổng kết các đặc tính.
Khả năng khởi động lại	Tần suất hệ thống có thể khởi động lại để cung cấp dịch vụ cho người sử dụng trong một khoảng thời gian yêu cầu là như thế nào?	Đếm số lần hệ thống khởi động lại và cung cấp dịch vụ cho người sử dụng trong khoảng thời gian yêu cầu mục tiêu và so sánh nó với tổng số lần khởi động lại, khi hệ thống có sự cố trong khoảng thời gian thử nghiệm xác định.	X = A/B A = Số lần khởi động lại đáp ứng khoảng thời gian yêu cầu trong quá trình kiểm tra hoặc hỗ trợ vận hành cho người sử dụng B = Tổng số lần khởi động lại trong quá trình kiểm tra hoặc hỗ trợ vận hành cho người sử dụng	0<=X<=1 Càng lớn và càng gần 1.0 càng tốt, vì người sử dụng có thể khởi động lại dễ dàng.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Xác nhận		Người sử dụng Người bảo trì
CHÚ THÍCH 1. Khuyến nghị ước lượng các thời gian khởi động lại khác nhau nhằm đáp ứng mức nghiêm ngặt của sự cố, như phá hủy cơ sở dữ liệu, mất nhiều tác giao, mất tác giao đơn, hay phá hủy dữ liệu tạm thời. 2. Khuyến nghị rằng phép đánh giá khả năng phục hồi này chỉ bao gồm phục hồi tự động bằng phần mềm và không bao gồm công việc bảo trì của con người
Khả năng khôi phục lại	Khả năng tự khôi phục lại của sản phẩm sau khi có sự kiện bất thường xảy ra hoặc khi có yêu cầu?	Đếm số lần khôi phục thành công và so sánh với số lần khôi phục được kiểm tra được yêu cầu trong đặc tả. Các ví dụ về yêu cầu khôi phục: điểm kiểm tra của cơ sở dữ liệu, điểm kiểm tra của các giao dịch, chức năng làm ngược thao tác cũ, chức năng thực hiện lại thao tác cũ,…	X = A/B A = Số lượng trường hợp khôi phục được thực hiện thành công B = Số trường hợp khôi phục đã được kiểm tra theo yêu cầu	0<=X<=1 Càng gần bằng 1.0 càng tốt, vì sản phẩm có khả năng phục hồi tốt hơn trong các trường hợp xác định	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Đặc tả yêu cầu Đặc tả kiểm tra hay Hướng dẫn sử dụng Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Xác nhận		Người sử dụng Người bảo trì
CHÚ THÍCH: Khuyến nghị phép đánh giá này chỉ bao gồm phục hồi tự động cung cấp bởi phần mềm và không bao gồm công việc bảo trì của con người.
Tính hiệu quả của việc khôi phục lại	Khả năng khôi phục lại hiệu quả như thế nào?	Đếm số lần khôi phục được kiểm tra đáp ứng thời gian khôi phục mục tiêu và so sánh với số lần khôi phục cần thiết với thời gian mục tiêu xác định.	X = A/B A = Số trường hợp khôi phục thành công đáp ứng thời gian khôi phục mục tiêu B = Số trường hợp được thực hiện	0<=X<=1 Càng gần bằng 1.0 càng tốt, vì quá trình khôi phục trong sản phẩm hiệu quả hơn.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành		5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Xác nhận		Người sử dụng Người bảo trì
CHÚ THÍCH: Khuyến nghị phép đánh giá này chỉ bao gồm phục hồi tự động cung cấp bởi phần mềm và không bao gồm công việc bảo trì của con người.

7.2.4. Các phép đánh giá tuân thủ của tính tin cậy

Phép đánh giá tuân thủ của tính tin cậy ngoài phải có khả năng đo thuộc tính như số lượng chức năng cùng với, hoặc xuất hiện các vấn đề tuân thủ, mà sản phẩm phần mềm không tôn trọng triệt để các tiêu chuẩn, quy ước hay quy định liên quan đến tính tin cậy.

Bảng 9- Bảng các phép đánh giá tuân thủ của tính tin cậy

Các phép đánh giá tính năng tuân thủ tin cậy ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tuân thủ của tính tin cậy	Tính tin cậy của sản phẩm tuân thủ các quy định, tiêu chuẩn và quy ước đang áp dụng như thế nào?	Đếm số lượng các điều khoản yêu cầu tuân thủ được thỏa mãn và so sánh với số các điều khoản yêu cầu tuân thủ trong đặc tả.	X = 1 – A/B A = Số các điều khoản tuân thủ của tính tin cậy được xác định là không được triển khai trong quá trình kiểm tra B = Tổng số các điều khoản tuân thủ của tính tin cậy được xác định	0<=X<=1 Càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Mô tả sản phẩm (Hướng dẫn sử dụng hoặc Đặc tả) của việc tuân thủ và các tiêu chuẩn, quy ước hoặc quy định liên quan. Đặc tả kiểm tra và báo cáo	5.3 Kiểm tra chất lượng 6.5 Xác nhận	Nhà cung cấp Người sử dụng
CHÚ THÍCH: Có thể là có ích nếu như thu thập các giá trị đo được theo thời gian, để phân tích xu hướng gia tăng các điều khoản tuân thủ được thỏa mãn và xác định chúng hoàn toàn thỏa mãn hay không.

7.3. Các phép đánh giá tính khả dụng

Các phép đánh giá tính khả dụng đo khả năng mà phần mềm có thể được hiểu, học, vận hành, thân thiện và tuân thủ với các quy tắc khả dụng và hướng dẫn.

Rất nhiều các phép đánh giá tính khả dụng ngoài được kiểm tra bởi người sử dụng khi thử sử dụng chức năng. Các kết quả sẽ bị tác động bởi các khả năng của người sử dụng và đặc tính của hệ thống chủ. Điều này không phủ nhận tính hợp lệ của các phép đo, do phần mềm được đánh giá thực hiện dưới các điều kiện rõ ràng xác định bởi người sử dụng mẫu đại diện cho nhóm người sử dụng được thừa nhận. (Đối với các sản phẩm mục đích chung, các đại diện của một dải các nhóm người sử dụng có thể được dùng.) Để kết quả tin cậy, cần mẫu của ít nhất tám người sử dụng, mặc dù thông tin có ích có thể đạt được từ các nhóm nhỏ hơn. Người sử dụng phải hoàn thành kiểm tra không dùng bất cứ gợi ý hay trợ giúp bên ngoài nào.

Các phép đánh giá cho tính dễ hiểu, dễ học, và dễ vận hành có hai dạng phương pháp ứng dụng: kiểm tra người sử dụng hay kiểm tra của sản phẩm khi sử dụng.

CHÚ THÍCH:

Kiểm tra người sử dụng

Người sử dụng cố gắng sử dụng chức năng kiểm tra nhiều phép đánh giá ngoài. Các phép đo này có thể thay đổi nhiều giữa các cá nhân khác nhau. Mẫu người sử dụng đại diện cho nhóm người sử dụng xác định phải hoàn thành kiểm tra không dùng bất cứ gợi ý hay trợ giúp bên ngoài nào. (Đối với các sản phẩm mục đích chung, các đại diện của một dải các nhóm người sử dụng có thể được dùng.) Để kết quả tin cậy, cần mẫu của ít nhất tám người sử dụng, mặc dù thông tin có ích có thể đạt được từ các nhóm nhỏ hơn.

Phải có khả năng để các phép đo được sử dụng thiết lập tiêu chí chấp nhận hoặc để so sánh giữa các sản phẩm. Điều đó có nghĩa là các phép đo phải là các thành phần đếm hoặc các giá trị đã biết. Các kết quả phải báo cáo giá trị trung bình sai số chuẩn của giá trị trung bình.

Nhiều phép đánh giá như vậy có thể được kiểm tra với các nguyên mẫu trước đó của phần mềm. Phép đánh giá nào có khả năng áp dụng sẽ phụ thuộc vào mức độ quan trọng tương quan của các khía cạnh khác nhau của tính khả dụng, và khả năng của chất lượng theo sau trong quá trình kiểm tra sử dụng.

Kiểm tra sản phẩm khi sử dụng

Thay cho việc kiểm tra các chức năng cụ thể, một số các phép đánh giá ngoài lại quan sát việc sử dụng chức năng trong quá trình sử dụng tổng quan hơn của sản phẩm để hoán tất một nhiệm vụ tiêu biểu như là một phần của kiểm tra chất lượng sử dụng (TCVN 8704). Điều này có lợi ích là đòi hỏi ít bài kiểm tra hơn. Bất lợi là một số chức năng có thể chỉ được sử dụng rất hiếm trong quá trình sử dụng bình thường.

7.3.1. Các phép đánh giá tính dễ hiểu

Người sử dụng phải có khả năng lựa chọn sản phẩm phần mềm phù hợp cho việc sử dụng dự kiến của họ. Phép đánh giá tính dễ hiểu ngoài phải có khả năng ước lượng người sử dụng mới có thể hiểu hay không:

Phần mềm có phù hợp hay không
Nó có thể được sử dụng như thế nào cho các nhiệm vụ đặc thù.

Bảng 10 – Bảng các phép đánh giá tính dễ hiểu

Các phép đánh giá tính dễ hiểu ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Tính đầy đủ của tài liệu mô tả

Tỷ lệ các chức năng (hoặc các dạng chức năng) hiểu được sau khi đọc tài liệu mô tả sản phẩm là bao nhiêu?

Tiến hành kiểm tra người sử dụng và phỏng vấn người sử dụng với các câu hỏi hoặc quan sát thái độ người sử dụng.

Đếm số chức năng được hiểu thỏa đáng và so sánh với tổng số lượng chức năng trong sản phẩm.

X = A/B

A = Số chức năng (hay các dạng chức năng) hiểu được

B = Tổng số các chức năng (hay các dạng chức năng)

0<=X<=1

Càng tiến gần tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng tiềm năng có hiểu công năng của sản phẩm sau khi đọc mô tả sản phẩm hay không.

Khả năng truy cập thuyết minh

Tỷ lệ của quá trình thuyết minh/ hướng dẫn người sử dụng có thể truy cập là bao nhiêu?

Tiến hành kiểm tra người sử dụng và quan sát thái độ người sử dụng.

Đếm số các chức năng được thuyết minh thỏa đáng và so sánh với tổng số các chức năng yêu cầu khả năng thuyết minh

X = A/B

A = Số các thuyết minh/ hướng dẫn mà người sử dụng truy cập thành công

B = Số các thuyết minh/ hướng dẫn sẵn có

0<=X<=1

Giá trị X càng tiến tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng có thể tìm thấy thuyết minh và/hoặc hướng dẫn hay không.

Khả năng truy cập thuyết minh khi sử dụng

Tỷ lệ của thuyết minh/ hướng dẫn người sử dụng có thể truy cập bất cứ khi nào người sử dụng thực sự cần trong quá trình vận hành là bao nhiêu?

Quan sát thái độ người sử dụng đang cố gắng xem các thuyết minh/hướng dẫn.

Việc quan sát có thể được thực hiện thông qua phương thức giám sát hành động có ý thức của con người với máy Camera.

X = A/B

A = Số các trường hợp người sử dụng xem được thuyết trình khi họ cố gắng thử xem.

B = Số các trường hợp người sử dụng cố gắng xem thuyết trình trong giai đoạn quan sát

0<=X<=1

X càng tiến tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

Bản ghi quan sát người sử dụng (băng video và các bản ghi hành động)

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng có thể tìm thấy thuyết minh và/hoặc hướng dẫn khi sử dụng sản phẩm hay không

Hiệu quả của thuyết minh

Tỷ lệ các chức năng người sử dụng có thể vận hành thành công sau khi được thuyết minh hay hướng dẫn là bao nhiêu?

Quan sát thái độ người sử dụng đang cố gắng xem các thuyết minh/hướng dẫn.

Việc quan sát có thể được thực hiện thông qua phương thức giám sát hành động có ý thức của con người với máy Camera.

X = A/B

A = Số các chức năng hoạt động thành công

B = Số lượng các thuyết minh/ hướng dẫn được truy cập

0<=X<=1

Càng gần 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng có thể vận hành các chức năng thành công sau khi xem thuyết minh hoặc hướng dẫn hay không.

Các chức năng rõ ràng

Tỷ lệ các chức năng (hoặc các dạng chức năng) có thể được nhận biết bởi người sử dụng dựa trên các điều kiện ban đầu bao nhiêu?

Tiến hành kiểm tra người sử dụng và phỏng vấn người sử dụng với các câu hỏi hoặc quan sát thái độ người sử dụng.

Đếm số các chức năng rõ ràng đối với người sử dụng và so sánh với tổng số các chức năng.

X = A/B

A = Số lượng các chức năng (hoặc các dạng chức năng) được nhận biết bởi người sử dụng

B = Tổng số các chức năng thực tế (hoặc các dạng chức năng)

0<=X<=1

X càng tiến tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng có khả năng xác định các chức năng bằng cách thăm dò giao diện (tức là xem xét các menu) hay không.

Khả năng dễ hiểu của chức năng

Tỷ lệ các chức năng sản phẩm người sử dụng có khả năng hiểu được chính xác là bao nhiêu?

Tiến hành kiểm tra người sử dụng và phỏng vấn người sử dụng với các câu hỏi.

Đếm số các chức năng giao diện người sử dụng mà mục đích dễ hiểu và so sánh với số các chức năng sẵn sàng cho người sử dụng.

X = A/B

A = Số lượng các chức năng giao diện mà mục đích của nó được mô tả chính xác bởi người sử dụng

B = Tổng số các chức năng sẵn sàng từ giao diện

0<=X<=1

X càng tiến tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng có khả năng hiểu các chức năng bằng cách thăm dò giao diện (tức là xem xét các menu) hay không.

Đầu vào và đầu ra có khả năng hiểu được

Người sử dụng có thể hiểu được những gì được yêu cầu tại dữ liệu đầu vào và những gì được cung cấp tại dữ liệu đầu ra bởi hệ thống phần mềm hay không?

Tiến hành kiểm tra người sử dụng và phỏng vấn người sử dụng với các câu hỏi hoặc quan sát thái độ người sử dụng.

Đếm số các thành phần dữ liệu đầu vào và đầu ra mà người sử dụng có thể hiểu và so sánh với tổng số các thành phần sẵn sàng cho người sử dụng.

X = A/B

A = Số lượng các thành phần dữ liệu đầu vào và đầu ra người sử dụng có thể hiểu chính xác.

B = Số lượng các thành phần dữ liệu đầu vào và đầu ra sẵn sàng từ giao diện

0<=X<=1

X càng tiến tới 1.0 càng tốt

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

6.5 Xác nhận

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người bảo trì

CHÚ THÍCH: Điều này chỉ rằng người sử dụng có khả năng hiểu khuôn dạng trên đó dữ liệu phải được đưa vào và nhận biết ý nghĩa của dữ liệu đầu ra hay không.

7.3.2. Các phép đánh giá khả năng dễ học

Phép đánh giá khả năng dễ học phải có khả năng ước lượng người sử dụng mất bao nhiêu thời gian để học sử dụng các chức năng đặc thù, và tính hiệu quả của các hệ thống và tài liệu trợ giúp.

Khả năng dễ học liên hệ chặt chẽ với khả năng dễ hiểu, và các phép đo khả năng dễ hiểu có thể là bộ chỉ thị tiềm năng dễ học của phần mềm.

Bảng 91 – Bảng các phép đánh giá khả năng dễ học

Các phép đánh giá khả năng dễ học ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Khả năng dễ dàng học chức năng	Người sử dụng mất bao lâu để học sử dụng chức năng?	Tiến hành kiểm tra người sử dụng và quan sát thái độ người sử dụng.	T = Thời gian trung bình để học sử dụng chức năng chính xác	0<T Càng nhỏ càng tốt.	Tỷ lệ	T = Thời gian	Báo cáo vận hành (kiểm tra) Bản ghi giám sát người sử dụng	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người bảo trì
CHÚ THÍCH: Phép đánh giá này được sử dụng chung như phép đánh giá kinh nghiệm và biện minh.
Khả năng dễ dàng học cách thực hiện một nhiệm vụ khi sử dụng	Người sử dụng mất bao nhiêu thời gian để học cách thực hiện một nhiệm vụ xác định một cách hiệu quả	Quan sát thái độ người sử dụng từ khi họ bắt đầu học đến khi họ bắt đầu vận hành một cách hiệu quả.	T = Tổng thời gian khai thác của người sử dụng cho đến khi người sử dụng đạt được thực hiện một nhiệm vụ xác định trong thời gian ngắn	0<T Càng nhỏ càng tốt	Tỷ lệ	T = Thời gian	Báo cáo vận hành (kiểm tra) Bản ghi giám sát người sử dụng	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người bảo trì
CHÚ THÍCH: 1. Khuyến nghị tìm thời gian vận hành mong đợi của người sử dụng là một thời gian ngắn. Thời gian vận hành này của người sử dụng có thể là ngưỡng, ví dụ như, nó là 70% của thời gian tại lần sử dụng đầu tiên là một tỷ lệ hợp lý. 2. Trong kết quả có thể thay thời gian bằng đơn vị người-giờ.
Tính hiệu quả của các tài liệu hướng dẫn người sử dụng và/ hoặc hệ thống trợ giúp	Tỷ lệ nhiệm vụ được hoàn thành một cách chính xác sau khi sử dụng tài liệu hướng dẫn và/ hoặc hệ thống trợ giúp là bao nhiêu?	Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ. Đếm số nhiệm vụ được hoàn thành đúng sau khi truy cập vào hệ thống trợ giúp trực tuyến và/ hoặc tài liệu hướng dẫn, so sánh với tổng số nhiệm vụ được kiểm tra.	X = A/B A = Số nhiệm vụ được hoàn thành đúng sau khi truy nhập vào hệ thống trợ giúp trực tuyến và/hoặc tài liệu hướng dẫn B = Tổng số nhiệm vụ được kiểm tra	0<=X<=1 Càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo vận hành (kiểm tra) Bản ghi giám sát người sử dụng	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người bảo trì
CHÚ THÍCH: Có thể có ba phép đánh giá: độ phức tạp của tài liệu, độ phức tạp của phương tiện trợ giúp, hoặc độ phức tạp của trợ giúp và tài liệu sử dụng kết hợp.
Tính hiệu quả của các tài liệu hướng dẫn người sử dụng và/ hoặc hệ thống trợ giúp trong khi sử dụng	Tỷ lệ các chức năng có thể được sử dụng đúng đắn sau khi đọc tài liệu hướng dẫn hoặc sử dụng các hệ thống trợ giúp là bao nhiêu?	Quan sát thái độ của người sử dụng. Đếm số lượng các chức năng được sử dụng đúng đắn sau khi đọc tài liệu hướng dẫn hoặc sử dụng hệ thống trợ giúp và so sánh với tổng số các chức năng.	X = A/B A = Số chức năng có thể được sử dụng B = Tổng số các chức năng được cung cấp	0<=X<=1 Càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo vận hành (kiểm tra) Bản ghi giám sát người sử dụng	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người thiết kế giao diện người sử dụng
Khả năng truy cập trợ giúp	Tỷ lệ các chủ đề trợ giúp người sử dụng có thể xác định là bao nhiêu?	Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ. Đếm số nhiệm vụ có hỗ trợ trực tuyến được xác định và so sánh với tổng số các nhiệm vụ được kiểm tra.	X = A/B A = Số nhiệm vụ có trợ giúp trực tuyến được xác định B = Tổng số nhiệm vụ được kiểm tra	0<=X<=1 Càng gần bằng 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo vận hành (kiểm tra) Bản ghi giám sát người sử dụng	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người thiết kế giao diện người sử dụng
Tần suất trợ giúp	Người sử dụng thường xuyên truy cập vào hệ thống trợ giúp học cách vận hành để hoàn thành công việc của họ như thế nào?	Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ. Đếm số trường hợp người sử dụng truy cập vào hệ thống trợ giúp để hoàn thành công việc của mình.	X = A A = Số lượng truy cập vào hệ thống trợ giúp cho đến khi người sử dụng hoàn thành công việc của mình.	0<=X Càng gần bằng 0 càng tốt	Tuyệt đối	A = Số đếm X = Số đếm	Báo cáo vận hành (kiểm tra) Bản ghi giám sát người sử dụng	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người thiết kế giao diện

7.3.3. Các phép đánh giá khả năng dễ vận hành

Phép đánh giá khả năng dễ vận hành ngoài phải có khả năng ước lượng người sử dụng có thể vận hành và điều khiển phần mềm hay không. Các phép đánh giá khả năng dễ vận hành có thể được phân loại bởi các nguyên lý đối thoại trong ISO 9241-10:

Tính phù hợp của phần mềm đối với nhiệm vụ
Tính sinh động của phần mềm
Khả năng điều khiển của phần mềm
Sự thích hợp của phần mềm với các mong muốn của người sử dụng
Khả năng chịu lỗi của phần mềm
Tính phù hợp của phần mềm đối với cá tính hóa.

Việc lựa chọn các chức năng kiểm tra sẽ chịu ảnh hưởng bởi tần suất mong muốn sử dụng các chức năng, và tính quan trọng của chức năng, và bất kỳ vấn đề tính khả dụng định trước nào.

Bảng 102 – Bảng các phép đánh giá khả năng dễ vận hành

Các phép đánh giá khả năng dễ vận hành ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

a) Phù hợp với mong muốn vận hành của người sử dụng

Tính phù hợp của vận hành trong sử dụng

Các thành phần giao diện người sử dụng phù hợp như thế nào?

Quan sát thái độ của người sử dụng và hỏi ý kiến của họ.

a) X = 1 – A/B

A = Số bản tin hoặc chức năng người sử dụng thấy không phù hợp với mong muốn của mình

B = Số bản tin hoặc chức năng

b) Y = N/UOT

N = Số lần vận hành người sử dụng thấy không phù hợp với mong muốn.

UOT = Thời gian vận hành của người sử dụng (trong khoảng thời gian quan sát

0<=X<=1

Càng gần bằng 1.0 càng tốt.

0<=Y

Càng gần bằng 0 càng tốt.

Tuyệt đối

b) Tỷ lệ

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

UOT = Thời gian

N = Số đếm

Y = Số đếm/Thời gian

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH:

1. Kinh nghiệm vận hành của người sử dụng thông thường hữu ích để nhận biết nhiều mẫu vận hành xuất phát từ mong muốn của người sử dụng.

2. Cả hai “dự báo đầu vào” và “dự báo đầu ra” đều hiệu quả cho tính phù hợp của vận hành.

3. Phép đánh giá này có thể được sử dụng để đo “Dễ dàng vận hành’ và “Giao tiếp thuận tiện”.

Sửa lỗi

Người sử dụng có thể dễ dàng sửa lỗi trong các nhiệm vụ không?

Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ.

T = Tc – Ts

Tc = Thời điểm hoàn thành việc sửa lỗi nhất định của nhiệm vụ thực thi.

Ts = Thời điểm bắt đầu sửa các loại lỗi nhất định của nhiệm vụ được thực thi.

0<T

Càng nhỏ càng tốt.

Tỷ lệ

Ts, Tc = Thời gian

T = Thời gian

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH: Đề xuất người sử dụng phép đánh giá này xác định các loại lỗi cho các trường hợp kiểm tra mẫu bằng cách xem xét, ví dụ, tính nghiêm trọng (lỗi hiển thị hay dữ liệu bị hủy), loại lỗi vào/ra (lỗi văn bản đầu vào, lỗi dữ liệu ra cơ sở dữ liệu hay lỗi đồ họa trên màn hình) hoặc loại của trạng thái vận hành lỗi (sử dụng tương tác hoặc vận hành khẩn cấp).

Sửa lỗi trong sử dụng

Người sử dụng có thể dễ dàng khôi phục lỗi hoặc thực hiện lại công việc?

Người sử dụng có thể dễ dàng khôi phục lại đầu vào không?

Quan sát thái độ của người sử dụng đang vận hành phần mềm.

a) X = A/UOT

A = Số lần người sử dụng hủy bỏ thành công các vận hành lỗi của họ

UOT = Thời gian vận hành của người sử dụng trong quá trình quan sát.

CHÚ THÍCH: Khi các chức năng được kiểm tra lần lượt, tỷ lệ cũng có thể được tính như tỷ lệ của các số chức năng người sử dụng hủy bỏ vận hành thành công và tất cả các chức năng.

b) X = A/B

A = Số lượng bảng hay biểu mẫu trong đó dữ liệu đầu vào được sửa đổi hay thay thế thành công trước khi được gia công

B = Số lượng bảng hay biểu mẫu trong đó người sử dụng cố gắng sửa đổi hay thay thế dữ liệu đầu vào trong thời gian vận hành của người sử dụng được quan sát

0<=X

Càng lớn càng tốt.

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tỷ lệ

Tuyệt đối

A = Số đếm

UOT = Thời gian

X = Số đếm/Thời gian

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

c) Thích hợp cho vận hành nhiệm vụ

Tính sẵn sàng của giá trị mặc định trong sử dụng

Người sử dụng có thể dễ dàng chọn các giá trị tham số để thuận tiện trong khi vận hành?

Quan sát thái độ của người sử dụng vận hành phần mềm.

Đếm số lần người sử dụng cố gắng thiết lập hoặc lựa chọn các giá trị tham số và thất bại (bởi vì người sử dụng không thể sử dụng các giá trị mặc định cung cấp bởi phần mềm)

X = 1 – A/B

A = Số lần người sử dụng thất bại trong việc thiết lập hoặc lựa chọn giá trị tham số trong thời gian ngắn (bởi vì họ không thể sử dụng các giá trị mặc định cung cấp bởi phần mềm)

B = Tổng số lần người sử dụng lựa chọn hoặc thiết lập các giá trị tham số

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH

1. Khuyến nghị quan sát và ghi lại thái độ của người sử dụng và quyết định độ dài khoảng thời gian cho phép để lựa chọn các giá trị tham số như “khoảng thời gian ngắn”.

2. Khi chức năng thiết lập tham số được kiểm tra cho mỗi chức năng, tỷ lệ chức năng cho phép cũng có thể được tính.

3. Khuyến nghị tiến hành kiểm tra chức năng bao hàm cả các chức năng thiết lập tham số.

d) Mô tả (Hướng dẫn)

Khả năng hiểu được bản tin trong sử dụng

Người sử dụng có thể dễ dàng hiểu các bản tin từ hệ thống phần mềm?

Liệu có bản tin nào gây ra khó hiểu cho người sử dụng trước khi bắt đầu thực hiện thao tác tiếp theo?

Người sử dụng có thể dễ dàng nhớ các bản tin quan trọng hay không?

Quan sát thái độ của người sử dụng vận hành phần mềm.

X = A/UOT

A = Số lần người sử dụng dừng lại trong thời gian dài hoặc liên tục và lặp lại thất bại thực hiện cùng một thao tác, do không hiểu rõ bản tin.

UOT = Thời gian vận hành của người sử dụng (khoảng thời gian quan sát)

0<=X

Càng gần bằng 0 càng tốt.

Tỷ lệ

A = Số đếm

UOT = Thời gian

X = Số đếm/Thời gian

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH:

1. Giải thích thêm về sự dễ dàng thấu hiểu bản tin được biểu diễn bằng độ dài thời gian bản tin gây ra chậm trễ trong việc hiểu của người sử dụng trước khi bắt đầu thao tác tiếp theo.

Do đó, khuyến nghị quan sát và ghi lại thái độ người vận hành và quyết định độ dài thời gian của sự dừng lại để xem xét như “khoảng thời gian dài”.

2. Khuyến nghị phát hiện các nguyên nhân có khả năng của các vấn đề hiểu bản tin của người sử dụng như sau

a) Sự chăm chú: Sự chăm chú có nghĩa là người sử dụng nhận biết thành công thông tin trong các bản tin quan trọng: như hướng dẫn thao tác các bước tiếp theo, tên của các mục dữ liệu được xét, và các cảnh báo về vận hành thận trọng.

– Có khi nào người sử dụng không xem khi bắt gặp các bản tin quan trọng?

– Người sử dụng có thể tránh các lỗi trong vận hành do nhận biết được các bản tin quan trọng?

b) Khả năng nhớ: Khả năng nhớ có nghĩa là người sử dụng nhớ các thông tin trong các bản tin quan trọng như hướng dẫn thao tác các bước tiếp theo, tên của các mục dữ liệu được xét, và các cảnh báo về vận hành thận trọng.

– Người sử dụng có dễ dàng nhớ các bản tin quan trọng?

– Các bản tin quan trọng được ghi nhớ có giúp ích cho người sử dụng?

– Người sử dụng có cần ghi nhớ chỉ một số các bản tin quan trọng chứ không quá nhiều?

3. Khi các bản tin được kiểm tra lần lượt, tỷ lệ các bản tin được hiểu và tổng số các bản tin cũng có thể được tính.

4. Khi có một số người sử dụng tham gia vận hành được quan sát, tỷ lệ người sử dụng hiểu các bản tin và tổng số người sử dụng cũng có thể được tính.

Các bản tin lỗi rõ ràng

Tỷ lệ lỗi người sử dụng đề xuất hành động phục hồi lỗi chính xác trong điều kiện bị lỗi là bao nhiêu?

Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ.

X = A/B

A = Số lượng lỗi mà được người sử dụng đề xuất hành động phục hồi chính xác.

B = Số lượng lỗi được kiểm tra

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

e) Khả năng chịu lỗi vận hành (không tính lỗi do con người)

Khả năng phục hồi lỗi vận hành trong sử dụng

Liệu người sử dụng có thể dễ dàng phục hồi tình trạng xấu nhất của họ không?

Quan sát thái độ của người sử dụng vận hành phần mềm

X = 1 – A/B

A = Số trường hợp phục hồi lỗi không thành công (sau khi có lỗi, hoặc thay đổi của người sử dụng) mà người sử dụng không được hệ thống thông báo có rủi ro

B = Số lượng lỗi hoặc thay đổi của người sử dụng

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH: Công thức trên thể hiện trường hợp xấu nhất. Người sử dụng phép đánh giá này có thể đưa ra kết hợp của 1) số lỗi người sử dụng được/ không được cảnh báo từ hệ thống phần mềm và 2) số trường hợp người sử dụng phục hồi thành công/ Không thành công tình trạng.

Khỏang thời gian giữa các vận hành lỗi do con người trong sử dụng

Liệu người sử dụng có thể vận hành phần mềm trong thời gian dài mà không có lỗi?

Quan sát thái độ của người sử dụng vận hành phần mềm.

X = T/N (tại thời điểm t trong khoảng [t-T,t])

T = Thời gian vận hành trong quá trình quan sát (hoặc tổng thời gian vận hành giữa các lần vận hành lỗi của người sử dụng)

N = Số lần xảy ra lỗi vận hành do con người

0<X

Càng lớn càng tốt.

Tỷ lệ

T = Thời gian

N = Số đếm

X = Thời gian/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH:

1. Vận hành lỗi do con người có thể phát hiện bằng cách đếm thái độ của người sử dụng như sau:

a) Lỗi đơn giản do con người (Lỗi vô ý): Số lần người sử dụng chỉ gây lỗi vận hành đầu vào;

b) Lỗi có chủ tâm (Nhầm lẫn): Số lần người sử dụng lặp lại các lỗi trên cùng một thao tác vận hành do hiểu sai trong thời gian quan sát;

c) Dừng vận hành: số lần người sử dụng dừng lại trong thời gian dài cùng với sự lưỡng lự trong thời gian quan sát.

Người sử dụng phép đánh giá này được đề xuất đo riêng từng loại được đưa ra ở trên.

2. Chúng ta cho rằng việc dừng vận hành có nghĩa như vận hành lưỡng lự của người sử dụng.

Điều này phụ thuộc vào chức năng, thủ tục vận hành, miền ứng dụng, và người sử dụng được xem xét trong khoảng thời gian dài hay không đối với người sử dụng dừng vận hành. Do đó, người đánh giá được yêu cầu xem xét chúng và xác định ngưỡng thời gian hợp lý. Đối với vận hành tương tác, ngưỡng “khoảng thời gian dài” trong khoảng từ 1 đến 3 phút.

Khả năng tháo gỡ (Sửa lỗi của người sử dụng)

Người sử dụng thường xuyên sửa lỗi đầu vào thành công như thế nào?

Người sử dụng thường xuyên hủy lỗi chính xác như thế nào?

Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ.

a) X = A/B

A = Số lượng lỗi đầu vào người sử dụng sửa thành công

B = Số lượng cố gắng sửa lỗi đầu vào

b) Y = A/B

A = Số tình trạng lỗi được người sử dụng sửa thành công

B = Tổng số tình trạng lỗi được kiểm tra

0<=X<=1

Càng gần bằng 1.0 càng tốt.

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH: Phép đánh giá này được sử dụng tổng quát như phép đánh giá thực nghiệm và điều chỉnh.

f) Thích hợp cho cá nhân hóa

Khả năng tùy biến

Người sử dụng có thể dễ dàng tùy biến các thủ tục vận hành cho phù hợp với họ không?

Người hướng dẫn người sử dụng có thể dễ dàng thiết lập các mẫu thủ tục vận hành để tránh các lỗi không?

Tỷ lệ các chức năng có thể được tùy biến là bao nhiêu?

Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ.

X = A/B

A = Số chức năng được tùy biến thành công

B = Số lần cố gắng thực hiện tùy biến

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH:

1. Tỷ lệ sự cố của người sử dụng được tùy biến có thể được đo.

Y= 1-(C/D)

C= Số trường hợp người sử dụng tùy biến vận hành thất bại

D= Tổng số trường hợp người sử dụng cố gắng tùy biến vận hành cho tiện ích cho họ.

0<=Y<=1, càng gần 1.0 càng tốt.

2. Khuyến nghị tuân theo các điều sau như các biến đổi của tùy biến vận hành:

– chọn vận hành thay thế khác, như sử dụng chọn menu thay cho việc vào lệnh;

– kết hợp các thủ tục vận hành người sử dụng, như ghi lại và biên tập thủ tục vận hành;

– thiết lập vận hành mẫu ràng buộc, như các thủ tục lập trình hoặc tạo mẫu cho hướng dẫn đầu vào.

3. Phép đánh giá này được sử dụng tổng quát như phép đánh giá thực nghiệm và điều chỉnh.

Giảm thủ tục vận hành

Liệu người sử dụng có thể dễ dàng giảm các thủ tục vận hành cho phù hợp với họ không?

Đếm thao tác của người sử dụng cho một quá trình vận hành nhất định, và so sánh giữa thời điểm trước và sau khi tùy biến vận hành.

X = 1 – A/B

A = Số thủ tục vận hành được giảm bớt sau khi tùy biến vận hành.

B = Số lượng các thủ tục vận hành trước khi tùy biến vận hành

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH:

1. Khuyến nghị tạo các mẫu cho mỗi nhiệm vụ khác nhau của người sử dụng và phân biệt giữa người vận hành là người sử dụng có trình độ và người mới.

2. Số các thủ tục vận hành có thể được biểu diễn bằng cách đếm các thao tác vận hành như nhấp chuột, gõ phím, tiếp xúc màn hình,…

3. Bao gồm cả rút gọn bàn phím.

Khả năng truy cập vật lý

Tỷ lệ các chức năng có thể được truy cập bởi tác động vật lý của người sử dụng là bao nhiêu?

Tiến hành kiểm tra người sử dụng và quan sát thái độ của họ.

X = A/B

A = Số chức năng được truy cập thành công

B = Số lượng chức năng

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo vận hành (kiểm tra)

Bản ghi giám sát người sử dụng

6.5 Xác nhận.

5.3 Kiểm tra chất lượng

5.4 Vận hành

Người sử dụng

Người thiết kế giao diện người sử dụng

CHÚ THÍCH: Các ví dụ của không có khả năng truy cập vật lý là không thể sử dụng chuột không nhìn được màn hình.

7.3.4. Các phép đánh giá tính hấp dẫn

Phép đánh giá tính hấp dẫn ngoài phải có khả năng đánh giá diện mạo của phần mềm, và sẽ bị tác động bởi các yếu tố như thiết kế và màu của màn hình. Điều này đặc biệt quan trọng đối với các sản phẩm thương mại.

Bảng 113 – Bảng các phép đánh giá tính hấp dẫn

Các phép đánh giá tính hấp dẫn ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tương tác với người sử dụng	Giao diện với người sử dụng thân thiện như thế nào?	Bản câu hỏi dành cho người sử dụng	Bản câu hỏi ước định sự thân thiện của giao diện phần mềm với người sử dụng phần mềm, sau quá trình sử dụng.	Phụ thuộc vào phương pháp tính điểm của bản câu hỏi.	Tuyệt đối	Số đếm	Kết quả bản câu hỏi	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người thiết kế giao diện người sử dụng
Tùy biến thể hiện giao diện	Tỷ lệ các thành phần của giao diện có thể được tùy biến theo sở thích người sử dụng?	Tiến hành kiểm tra người sử dụng và quan sát thái độ.	X = A/B A = Số các phần giao diện có thể tùy biến thỏa mãn người sử dụng. B = Số các phần giao diện người sử dụng muốn tùy biến.	0<=X<=1 X càng gần tới 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Các yêu cầu người sử dụng Báo cáo vận hành (kiểm tra)	6.5 Xác nhận. 5.3 Kiểm tra chất lượng 5.4 Vận hành	Người sử dụng Người thiết kế giao diện người sử dụng
CHÚ THÍCH: Phép đánh giá này được sử dụng tổng quát như phép đánh giá thực nghiệm và điều chỉnh.

7.3.5. Các phép đánh giá tính tuân thủ khả dụng

Phép đánh giá tính tuân thủ khả dụng ngoài phải có khả năng đánh giá việc tôn trọng các tiêu chuẩn, quy ước, chỉ dẫn khuôn dạng hoặc các quy định liên quan đến tính khả dụng.

Bảng 124 – Bảng các phép đánh giá tính tuân thủ khả dụng

Các phép đánh giá tính tuân thủ khả dụng ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tính tuân thủ khả dụng	Phần mềm hoàn toàn tôn trọng triệt để các tiêu chuẩn, thỏa thuận, hướng dẫn hay quy định liên quan đến tính khả dụng như thế nào?	Xác định các điều khoản tuân thủ yêu cầu dựa trên chuẩn, thỏa thuận hướng dẫn hay quy định liên quan đến tính khả dụng. Thiết kế các trường hợp kiểm tra mẫu tương ứng với các điều khoản yêu cầu. Tiến hành kiểm tra chức năng cho các trường hợp kiểm tra mẫu này.	X = 1 – A/B A = Các điều khoản tuân thủ yêu cầu về tính khả dụng được xác định nhưng không được triển khai trong quá trình kiểm tra B = Tổng số các điều khoản tuân thủ yêu cầu về tính khả dụng đã được xác định	0<=X<=1 Càng gần 1.0 càng tốt	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Mô tả sản phẩm (Hướng dẫn sử dụng hoặc Đặc tả) của tuân thủ và các tiêu chuẩn, thỏa thuận, hướng dẫn hay quy định Đặc tính và báo cáo kiểm tra	5.3 Kiểm tra chất lượng 6.5 Xác nhận	Nhà cung cấp Người sử dụng
CHÚ THÍCH: Có thể là hữu ích nếu thu thập một số các giá trị đo theo thời gian, phân tích xu hướng tăng của các điều khoản tuân thủ thỏa mãn và xác định chúng hoàn toàn thỏa mãn hay không.

7.4. Các phép đánh giá tính hiệu quả

Phép đánh giá tính hiệu quả ngoài phải có khả năng đo các thuộc tính như thời gian tiêu tốn và hoạt động sử dụng tài nguyên của hệ thống máy tính trong quá trình kiểm tra hoặc vận hành.

Khuyến nghị thời gian lớn nhất và thời gian phân bố được tìm cho nhiều trường hợp kiểm tra và vận hành, vì rằng phép đo bị ảnh hưởng mạnh và dao động phụ thuộc vào các điều kiện sử dụng, như tải dữ liệu xử lý, tần suất sử dụng, số lượng vị trí kết nối,… Do đó, các phép đánh giá tính hiệu quả có thể bao gồm tỷ lệ của giá trị thực tế đo được với dao động sai số quanh giá trị thiết kế trong dải dao động sai số cho phép đã được yêu cầu trong đặc tả.

Khuyến nghị liệt kê và xác định vai trò của các nhân tố như “CPU” và bộ nhớ sử dụng bởi các phần mềm khác, lưu lượng mạng, và các quá trình lập lịch cơ bản. Các dao động có thể và dải hợp lệ cho các giá trị đo được phải được thành lập và so sánh với đặc tả yêu cầu.

Khuyến nghị nhiệm vụ được xác nhận và được định nghĩa phải phù hợp với ứng dụng phần mềm: ví dụ, giao dịch là nhiệm vụ cho ứng dụng kinh doanh; chuyển mạch hay gửi gói là nhiệm vụ cho ứng dụng truyền thông; điều khiển sự kiện là nhiệm vụ cho ứng dụng điều khiển; và đầu ra của dữ liệu tạo bởi chức năng gọi từ người sử dụng cho ứng dụng người sử dụng công cộng.

CHÚ THÍCH:

Thời gian đáp ứng: Thời gian cần thiết nhận được kết quả từ khi nhấn phím truyền. Điều này có nghĩa là thời gian đáp ứng bao gồm cả thời gian xử lý và thời gian truyền tải. Thời gian đáp ứng được áp dụng chỉ cho hệ thống tương tác. Không có khác biệt nào đáng kể trong hệ thống độc lập. Tuy nhiên, trong trường hợp hệ thống Internet hoặc hệ thống thời gian thực khác, thỉnh thoảng thời gian truyền lại lớn hơn rất nhiều.
Thời gian xử lý: Thời gian trôi qua trong máy tính giữa thời điểm nhận bản tin và gửi kết quả. Trong một số trường hợp nó bao gồm thời gian mào đầu vận hành, trong trường hợp khác nó chỉ có nghĩa thời gian sử dụng cho chương trình ứng dụng.
3. Thời gian hoàn thành: Thời gian cần thiết để nhận được kết quả từ yêu cầ Trong nhiều trường hợp thời gian hoàn thành bao gồm nhiều thời gian đáp ứng. Ví dụ, trong trường hợp rút tiền mặt, thời gian hoàn thành là thời gian từ khi ấn phím khởi tạo cho đến khi lấy được tiền, trong khoảng thời gian đó chúng ta phải chọn loại giao dịch và đợi bản tin, nhập mật khẩu và đợi bản tin tiếp theo, …

7.4.1. Các phép đánh giá thời gian hoạt động

Phép đánh giá thời gian hoạt động ngoài phải có khả năng đo các thuộc tính như thời gian hoạt động của hệ thống máy tính bao gồm phần mềm trong quá trình kiểm tra hay vận hành.

Bảng 135 – Bảng các phép đánh giá thời gian hoạt động

Các phép đánh giá thời gian hoạt động ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

a) Thời gian đáp ứng

Thời gian đáp ứng

Thời gian cần để hoàn thành một nhiệm vụ nhất định là bao nhiêu?

Thời gian cần thiết trước khi hệ thống trả lời một vận hành nhất định là bao nhiêu?

Bắt đầu một nhiệm vụ nhất định.

Đo thời gian ví dụ cần thiết để hoàn thành nhiệm vụ đó.

Lưu kết quả cho mỗi lần đo

T = (thời điểm nhận được kết quả đo) – (thời điểm kết thúc vào lệnh)

0<T

Càng nhỏ càng tốt

Tỷ lệ

T = Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

CHÚ THÍCH: Khuyến nghị đưa vào dải thời và sử dụng phân tích thống kê với các phép đo cho các nhiệm vụ (ví dụ) chứ không chỉ cho một nhiệm vụ.

Thời gian đáp ứng (Thời gian đáp ứng trung bình)

Thời gian đợi trung bình của người sử dụng từ khi đưa ra yêu cầu đến khi yêu cầu được hoàn thành trong điều kiện tải hệ thống nhất định trên các nhiệm vụ đồng thời và tải sử dụng hệ thống là bao nhiêu?

Thực hiện một số kịch bản các nhiệm vụ đồng thời

Đo thời gian cần thiết hoàn thành vận hành lựa chọn.

Lưu kết quả của mỗi lần đo và tính giá trị trung bình cho mỗi kịch bản.

X = Tmean/TXmean

Tmean = ∑(Ti)/N, (với i = 1 đến N)

TXmean = Thời gian đáp ứng trung bình yêu cầu Ti = Thời gian đáp ứng của lần đánh giá thứ i

N = Số lần đánh giá

0<=X

Càng xấp xỉ bằng 1 càng tốt.

Tuyệt đối

Tmean = Thời gian

TXmean = Thời gian

Ti = Thời gian

N = Số đếm

X = Thời gian/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

CHÚ THÍCH: Thời gian đáp ứng trung bình yêu cầu có thể được lấy từ đặc tính của quá trình xử lý thời gian thực yêu cầu, mong muốn của người sử dụng theo nhu cầu công việc hoặc dựa trên quan sát phản ứng của người sử dụng. Kinh nghiệm người sử dụng trên các khía cạnh lao động cũng có thể được xem xét.

Thời gian đáp ứng (Tỷ lệ thời gian đáp ứng trong trường hợp xấu nhất)

Giới hạn tuyệt đối về thời gian cần thiết để hoàn thành một chức năng là bao nhiêu?

Trong trường hợp xấu nhất, liệu người sử dụng vẫn có thể nhận được phản hồi trong giới hạn thời gian nhất định không?

Trong trường hợp xấu nhất, liệu người sử dụng vẫn nhận được trả lời từ phần mềm trong thời gian đủ ngắn người sử dụng chấp nhận được không?

Điều chỉnh bài kiểm tra.

Giả lập điều kiện để hệ thống đạt được một trạng thái tải lớn nhất.

Thực hiện chương trình và giám sát kết quả.

X = Tmax/Rmax

Tmax = MAX(Ti) (với i = 1 đến N)

Rmax = Thời gian đáp ứng lớn nhất yêu cầu

MAX(Ti) = Thời gian đáp ứng lớn nhất trong các lần đánh giá

N = Số lần đánh giá

Ti = Thời gian đáp ứng lần đánh giá i

CHÚ THÍCH:

1. Phân bố có thể được tính toán như sau:

Tỷ lệ thống kê cực đại Y = Tdev/Rmax

Tdev = Tmean+K(DEV)

Tdev là thời gian chênh lệch giữa thời gian trung bình với thời gian thực tế: ví dụ 2 hoặc 3 lần chênh lệch chuẩn.

K: hệ số (2 hoặc 3) DEV = SQRT{∑((Ti-Tmean)**2)/(N-1)} (với i = 1 đến N)

Tmean = ∑(Ti) / N, (với i = 1 tới N)

TXmean = thời gian đáp ứng trung bình yêu cầu

0<X

Càng gần bằng 1.0 và nhỏ hơn 1.0 càng tốt.

Tuyệt đối

Tmax;Rmax;Ti = Thời gian

N = Số đếm

X = Thời gian/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống/ phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

b) Thông lượng

Thông lượng

Bao nhiêu nhiệm vụ có thể được thực hiện thành công trong khoảng thời gian cho trước?

Điều chỉnh mỗi nhiệm vụ tương ứng với mức độ ưu tiên định trước.

Bắt đầu một số các nhiệm vụ. Đo thời gian cần thiết để nhiệm vụ được đo hoàn thành hoạt động của nó.

Lưu lại kết quả cho mỗi lần đo.

X = A/T

A = Số nhiệm vụ được hoàn thành

T = Khoảng thời gian quan sát

0<X

Càng lớn càng tốt

Tỷ lệ

A = Số đếm

T = Thời gian

X = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống/ phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Thông lượng (Giá trị trung bình của thông lượng)

Số nhiệm vụ trung bình đồng thời hệ thống có thể xử lý được trong đơn vị thời gian thiết lập là bao nhiêu?

Điều chỉnh mỗi nhiệm vụ tương ứng với mức độ ưu tiên định trước.

Thực hiện một số các nhiệm vụ đồng thời.

Đo thời gian cần thiết để hoàn thành nhiệm vụ được chọn trên điều kiện lưu lượng cho trước.

Lưu lại kết quả cho mỗi lần đo.

X = Xmean/Rmean

Xmean = ∑(Xi) / N

Rmean = Thông lượng trung bình yêu cầu

Xi = Ai/Ti

Ai = Số nhiệm vụ đồng thời quan sát trong khoảng thời gian thiết lập cho lần đánh giá thứ i

Ti = Khoảng thời gian thiết lập cho lần đánh giá thứ i

N = Số lần đánh giá

0<X

Càng lớn càng tốt

Tỷ lệ

A = Số đếm

T = Thời gian

X = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Thông lượng (Tỷ lệ thông lượng trong trường hợp xấu nhất)

Giới hạn tuyệt đối trong hệ thống trên số lượng và xử lý các nhiệm vụ đồng thời như là thông lượng là bao nhiêu?

Điều chỉnh bài kiểm tra.

Giả lập điều kiện để hệ thống đạt được trạng thái tải lớn nhất. Thực hiện các nhiệm vụ đồng thời và giám sát kết quả.

X = Xmax/Rmax

Xmax = MAX(Xi) (với i = 1 đến N)

Rmax = Thông lượng lớn nhất yêu cầu

MAX(Xi) = Số lớn nhất các nhiệm vụ trong các lần đánh giá

Xi = Ai/Ti

Ai = Số nhiệm vụ đồng thời quan sát trong khoảng thời gian thiết lập cho lần đánh giá thứ i

Ti = Khoảng thời gian thiết lập cho lần đánh giá thứ i

N = Số lần đánh giá

CHÚ THÍCH:

1. Phân bố có thể được tính toán như sau:

Tỷ lệ thống kê cực đại Y = Xdev/Xmax

Xdev = Xmean + K(DEV)

Xdev là thời gian chênh lệch giữa thời gian trung bình với thời gian thực tế: ví dụ 2 hoặc 3 lần chênh lệch chuẩn.

K: hệ số (2 hoặc 3) DEV=SQRT{∑((Xi-Xmean)**2)/(N-1)} (với i=1 đến N)

Xmean=∑(Xi)/N, (với i=1 tới N)

Xmean = ∑((Xi)/N

0<X

Càng lớn càng tốt

Tuyệt đối

Xmax = Số đếm

Rmax = Số đếm

Ai = Số đếm

Ti = Thời gian

Xi = Số đếm/Thời gian

N = Số đếm

Xdev = Số đếm

Xi = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

c) Thời gian hoàn thành

Thời gian hoàn thành

Thời gian đợi của người sử dụng sau khi đưa lệnh để bắt đầu một nhóm các nhiệm vụ liên quan và khi hoàn thành chúng là bao nhiêu?

Điều chỉnh bài kiểm tra tương ứng.

Bắt đầu thực hiện nhiệm vụ. Đo thời gian cần thiết cho nhiệm vụ để hoàn thành vận hành.

Lưu kết quả đo mỗi lần đo.

T = Thời gian giữa kết thúc nhận được kết quả đầu ra và kết thúc đưa yêu cầu của người sử dụng.

CHÚ THÍCH: Khuyến nghị đưa ra thông lượng thời gian và sử dụng phân tích thống kê cùng các giá trị đo cho nhiều nhiệm vụ, chứ không chỉ cho một nhiệm vụ.

0<T

Càng nhỏ càng tốt

Tỷ lệ

T = Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống/ phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Thời gian hoàn thành (Thời gian trung bình cho việc hoàn thành)

Thời gian đợi trung bình của người sử dụng sau khi đưa lệnh để bắt đầu một nhóm các nhiệm vụ liên quan và khi hoàn thành chúng với tải hệ thống xác định trên các nhiệm vụ đồng thời và tải sử dụng hệ thống là bao nhiêu?

Điều chỉnh bài kiểm tra tương ứng.

Giả lập điều kiện tải của hệ thống bằng cách thực hiện một số các nhiệm vụ đồng thời.

Đo thời gian cần thiết để hoàn thành nhiệm vụ đã chọn trên lưu lượng cho trước.

Lưu kết quả cho mỗi lần đo.

X = Tmean/TXmean

Tmean = ∑(Ti)/N, (với i + 1 đến N)

TXmean = Thời gian hoàn thành trung bình yêu cầu

Ti = Thời gian hoàn thành cho lần đánh giá thứ i

N = Số lần đánh giá

0<T

Càng nhỏ càng tốt

Tuyệt đối

Tmean = Thời gian

TXmean = Thời gian

Ti = Thời gian

N = Số đếm

X = Thời gian/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống/ phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Thời gian hoàn thành (Tỷ lệ thời gian hoàn thành trong trường hợp xấu nhất)

Giới hạn tuyệt đối về thời gian yêu cầu để hoàn thành nhiệm vụ là bao nhiêu?

Trong trường hợp xấu nhất thời gian để hệ thống phần mềm hoàn thành các nhiệm vụ xác định là bao nhiêu?

Điều chỉnh bài kiểm tra.

Giả lập điều kiện để hệ thống đạt được trạng thái tải lớn nhất trên các nhiệm vụ thực hiện. Thực hiện các nhiệm vụ được chọn và giám sát kết quả.

X = Tmax/Rmax

Tmax = MAX(Ti) (với i = 1 đến N)

Rmax = Thời gian hoàn thành lớn nhất yêu cầu

MAX(Ti) = Thời gian hoàn thành lớn nhất trong các lần đánh giá

N = Số lần đánh giá

Ti = Thời gian hoàn thành cho lần đánh giá thứ i

CHÚ THÍCH:

1. Phân bố có thể được tính toán như sau:

Tỷ lệ thống kê cực đại Y = Tdev/Rmax

Tdev = Tmean+K(DEV)

Tdev là thời gian chênh lệch giữa thời gian trung bình với thời gian thực tế: ví dụ 2 hoặc 3 lần chênh lệch chuẩn.

K: hệ số (2 hoặc 3) DEV = SQRT{∑((Ti-Tmean)**2)/(N-1)} (với i = 1 đến N)

Tmean = ∑(Ti) / N, (với i = 1 tới N)

TXmean = thời gian trung bình yêu cầu

0<X

Càng gần 1.0 và nhỏ hơn 1.0 càng tốt.

Tuyệt đối

X = Thời gian/Thời gian

Tmax= Thời gian

Rmax= Thời gian

Ti = Thời gian

N = Thời gian

Tdev = Thời gian

N = Số đếm

Xdev = Số đếm

Xi = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Thời gian đợi

Tỷ lệ thời gian người sử dụng đợi hệ thống trả lời là bao nhiêu?

Thực hiện một số các kịch bản nhiệm vụ đồng thời.

Đo thời gian cần thiết để hoàn thành các vận hành đã chọn.

Lưu kết quả của mỗi lần thử nghiệm và tính thời gian trung bình cho mỗi kịch bản.

X = Ta/Tb

Ta = Tổng thời gian đợi

Tb = thời gian của nhiệm vụ

0<=X

Càng nhỏ càng tốt

Tuyệt đối

Ta = Thời gian

Tb = Thời gian

X = Thời gian/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Tích hợp hệ thống phần mềm

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

CHÚ THÍCH: Nếu các nhiệm vụ có thể hoàn thành từng phần phép đánh giá hiệu quả nhiệm vụ phải được sử dụng khi thực hiện so sánh.

7.4.2. Các phép đánh giá sử dụng tài nguyên

Phép đánh giá sử dụng tài nguyên ngoài phải có khả năng đo các thuộc tính như hoạt động của tài nguyên sử dụng của hệ thống máy tính bao gồm phần mềm trong quá trình kiểm tra hay vận hành.

Bảng 146 – Bảng các phép đánh giá sử dụng tài nguyên

Các phép đánh giá sử dụng tài nguyên ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

a) Sử dụng tài nguyên thiết bị I/O

Sử dụng thiết bị I/O

Việc sử dụng thiết bị I/O có quá cao, gây ra không hiệu quả?

Thực hiện đồng thời một lượng lớn các nhiệm vụ, ghi lại sử dụng của thiết bị I/O, và so sánh với mục tiêu thiết kế.

X = A/B

A = Thời gian thiết bị I/O được sử dụng.

B = thời gian xác định được thiết kế cho việc sử dụng thiết bị.

0<=X<=1

Nhỏ hơn và càng gần 1.0 thì tốt hơn.

Tuyệt đối

A = Thời gian

B = Thời gian

X = Thời gian/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

SQA

Giới hạn tải I/O

Giới hạn tuyệt đối của việc sử dụng I/O trong hoàn thành chức năng?

Điều chỉnh điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải lớn nhất. Thực hiện ứng dụng và giám sát kết quả.

X = Amax/Rmax

Amax = MAX(Ai), (với i = 1 đến N)

Rmax = Bản tin I/O lớn nhất yêu cầu

MAX(Ai) = Số lượng lớn nhất bản tin I/O từ lần 1 đến lần đánh giá thứ i.

N = Số lần đánh giá

0<=X

Càng nhỏ càng tốt.

Tuyệt đối

Amax = Số đếm

Rmax = Số đếm

Ai = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Lỗi liên quan đến I/O

Người sử dụng thường xuyên gặp vấn đề trong vận hành liên quan đến thiết bị I/O như thế nào?

Điều chỉnh điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải lớn nhất. Thực hiện ứng dụng và ghi lại số lỗi do sự cố I/O và các cảnh báo.

X = A/T

A = Số bản tin cảnh báo hoặc sự cố hệ thống

T = Thời gian vận hành người sử dụng trong quá trình quan sát.

0<=X

Càng nhỏ càng tốt.

Tỷ lệ

A = Số đếm

T = Thời gian

X = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

SQA

Tỷ lệ hoàn thành I/O trung bình

Số lượng trung bình của bản tin lỗi liên quan đến I/O và số lần sự cố trong một thời gian xác định và sử dụng xác định là bao nhiêu?

X = Amean/Rmean

Amean = ∑(Ai)/N

Rmean = Số bản tin I/O trung bình được yêu cầu

Ai = Số bản tin lỗi cho lần đánh giá thứ i

N = Số lần đánh giá

0<=X

Càng nhỏ càng tốt.

Tuyệt đối

Amean = Số đếm

Rmean = Số đếm

Ai = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Thời gian đợi của người sử dụng khi sử dụng thiết bị I/O

Tác động của việc sử dụng thiết bị I/O tới thời gian đợi của người sử dụng là bao nhiêu?

Thực hiện đồng thời một lượng lớn các nhiệm vụ và đo thời gian đợi vận hành của thiết bị I/O của người sử dụng.

T = Thời gian đợi kết thúc vận hành thiết bị I/O

CHÚ THÍCH: Khuyến nghị thời gian lớn nhất và thời gian phân bố được xác định cho nhiều trường hợp kiểm tra hay vận hành, bởi vì các phép đo thường thay đổi bởi điều kiện sử dụng.

0<T

Càng nhỏ càng tốt

Tỷ lệ

T = Thời gian

Báo cáo kiểm tra

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

b) Sử dụng tài nguyên bộ nhớ

Sử dụng bộ nhớ lớn nhất

Giới hạn tuyệt đối của bộ nhớ được yêu cầu để hoàn thành chức năng là bao nhiêu?

Điều chỉnh điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải lớn nhất. Thực hiện ứng dụng và giám sát kết quả

X = Amax/Rmax

Amax = MAX(Ai), (với i = 1 đến N)

Rmax = Số lượng bản tin lỗi lớn nhất liên quan đến bộ nhớ được yêu cầu

MAX(Ai) = Số lượng bản tin lỗi lớn nhất liên quan đến bộ nhớ từ lần đánh giá 1 đến lần i.

N = Tổng số lần đánh giá

0<=X

Càng nhỏ càng tốt

Tuyệt đối

Amax = Số đếm

Rmax = Số đếm

Ai = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Xuất hiện trung bình lỗi bộ nhớ

Số lượng trung bình của bản tin lỗi và sự cố liên quan đến bộ nhớ trong một thời gian xác định và tải xác định trong hệ thống là bao nhiêu?

Điều chỉnh điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải lớn nhất. Thực hiện ứng dụng và ghi lại số lỗi do sự cố bộ nhớ và cảnh báo.

X = Amean/Rmean

Amean = ∑(Ai)/N

Rmean = Số bản tin lỗi trung bình liên quan đến bộ nhớ được yêu cầu

Ai = Số bản tin lỗi liên quan đến bộ nhớ trong lần đánh giá thứ i

N = Số lần đánh giá

0<=X

Càng nhỏ càng tốt.

Tuyệt đối

Amean = Số đếm

Rmean = Số đếm

Ai = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Tỷ lệ lỗi bộ nhớ/ thời gian

Số lượng lỗi bộ nhớ trong khoảng thời gian thiết lập và sử dụng tài nguyên nhất định là bao nhiêu?

Điều chỉnh các điều kiện kiểm tra.

Giả lập điều kiện hệ thống đạt được trạng thái tải lớn nhất.

Thực hiện ứng dụng và ghi lại số lỗi do sự cố bộ nhớ và cảnh báo.

X = A/T

A = Số lượng bản tin cảnh báo hay sự cố hệ thống

T = Thời gian vận hành người sử dụng trong quá trình quan sát.

0<=X

Càng nhỏ càng tốt.

Tỷ lệ

A = Số đếm

T = Số đếm

X = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

SQA

c) Sử dụng tài nguyên truyền dẫn

Sử dụng truyền dẫn lớn nhất

Giới hạn tuyệt đối của truyền dẫn yêu cầu để hoàn thành chức năng là bao nhiêu?

Xác định yêu cầu để hệ thống đạt được trạng thái tải lớn nhất.

Giả lập điều kiện đó. Thực hiện ứng dụng và giám sát kết quả.

X = Amax/Rmax

Amax = MAX(Ai), (với i = 1 đến N)

Rmax = Số lớn nhất được yêu cầu của bản tin lỗi và sự cố liên quan đến truyền dẫn

MAX(Ai) = Số lớn nhất của bản tin lỗi và sự cố liên quan đến truyền tải từ lần đánh giá từ 1 đến lần i.

N = Số lần đánh giá

0<=X

Càng nhỏ càng tốt

Tuyệt đối

Amax = Số đếm

Rmax = Số đếm

Ai = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Cân bằng sử dụng giữa các thiết bị phương tiện

Mức đồng bộ giữa các phương tiện khác nhau trong một khoảng thời gian thiết lập là thế nào?

Điều chỉnh các điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải truyền dẫn lớn nhất. Thực hiện ứng dụng và ghi lại độ trễ trong quá trình xử lý các loại phương tiện khác nhau.

X = SyncTime/T

SyncTime = Thời gian dành cho tài nguyên liên tục

T = Khoảng thời gian được yêu cầu trong đó các phương tiện không giống nhau được mong đợi kết thúc các nhiệm vụ một cách đồng bộ

Càng nhỏ càng tốt.

Tỷ lệ

SyncTime = Thời gian

T = Thời gian

X = Thời gian/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

SQA

Xuất hiện trung bình lỗi truyền dẫn

Số lượng trung bình bản tin lỗi và sự cố liên quan đến truyền tải trong khoảng thời gian xác định và sử dụng xác định là bao nhiêu?

Điều chỉnh điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải lớn nhất. Thực hiện ứng dụng và ghi lại số lỗi do sự cố truyền tải và các cảnh báo.

X = Amean/Rmean

Amean = ∑(Ai)/N

Rmean = Số lượng trung bình được yêu cầu các bản tin lỗi và sự cố liên quan đến truyền dẫn

Ai = Số lượng trung bình các bản tin lỗi và sự cố liên quan đến truyền dẫn trong lần đánh giá thứ i.

N = Số lần đánh giá

0<=X

Càng nhỏ càng tốt.

Tuyệt đối

Amean = Số đếm

Rmean = Số đếm

Ai = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

SQA

Lỗi truyền dẫn trung bình trên thời gian

Có bao nhiêu bản tin lỗi liên quan đến truyền dẫn xảy ra trong một khoảng thời gian xác định và sử dụng tài nguyên xác định?

Điều chỉnh các điều kiện kiểm tra. Giả lập điều kiện hệ thống đạt được trạng thái tải truyền dẫn lớn nhất. Thực hiện ứng dụng và ghi lại số lỗi do sự cố truyền dẫn và các cảnh báo.

X = A/T

A = Số lượng bản tin cảnh báo hay sự cố hệ thống

T = Thời gian vận hành người sử dụng trong quá trình quan sát.

0<=X

Càng nhỏ càng tốt.

Tỷ lệ

A = Số đếm

T = Thời gian

X = Số đếm/Thời gian

Báo cáo kiểm tra

Báo cáo vận hành biểu hiện thời gian trôi qua

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

SQA

Sử dụng dung lượng truyền dẫn

Hệ thống phần mềm có khả năng thực hiện các nhiệm vụ trong phạm vi dung lượng truyền dẫn mong đợi được không?

Thực hiện đồng thời các nhiệm vụ với nhiều người sử dụng, quan sát dung lượng truyền dẫn và so sánh giá trị.

X = A/B

A = dung lượng truyền dẫn

B = dung lượng truyền dẫn xác định được thiết kế để phần mềm sử dụng thực hiện công việc

CHÚ THÍCH: Khuyến nghị nên đo giá trị động lớn nhất với nhiều người sử dụng.

0<=X<=1

Nhỏ hơn và càng gần 1.0 thì càng tốt.

Tuyệt đối

A = Kích thước

B = Kích cỡ

X = Kích cỡ/ Kích cỡ

Báo cáo kiểm tra

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

SQA

7.4.3. Các phép đánh giá tuân thủ của tính hiệu quả

Phép đánh giá tuân thủ của tính hiệu quả ngoài phải có khả năng đo các thuộc tính như số lượng các chức năng cùng với, hoặc xuất hiện các vấn đề tuân thủ, mà sản phẩm phần mềm không tôn trọng triệt để các tiêu chuẩn, quy ước hay quy định liên quan tới tính hiệu quả.

Bảng 157 – Bảng các phép đánh giá tuân thủ của tính hiệu quả

Các phép đánh giá sự tuân thủ của tính hiệu quả ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Tuân thủ của tính hiệu quả

Tính hiệu quả của sản phẩm tuân thủ các quy định, tiêu chuẩn, và thỏa thuận có khả năng áp dụng như thế nào?

Đếm số thành phần yêu cầu tuân thủ đã được đáp ứng và so sánh với tổng số thành phần yêu cầu phải tuân thủ trong đặc tả

X = 1 – A/B

(X: tỷ lệ thành phần thỏa mãn tuân thủ liên quan đến tính hiệu quả)

A = Số lượng thành phần tuân thủ tính hiệu quả được xác định mà không được triển khai trong quá trình kiểm tra

B = Tổng số thành phần tuân thủ tính hiệu quả được xác định.

CHÚ THÍCH: Có thể sẽ thuận lợi hơn nếu thu thập nhiều giá trị đo trong khoảng thời gian dài, phân tích xu hướng làm tăng số lượng thành phần tuân thủ của tính hiệu quả và xác định chúng có thỏa mãn hoàn toàn hay không.

0<=X<=1

Càng gần đến 1.0 thì càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Mô tả sản phẩm (Hướng dẫn sử dụng hoặc Đặc tả) của tuân thủ và các tiêu chuẩn, thỏa thuận, quy định liên quan

Đặc tính và báo cáo kiểm tra

5.3 Kiểm tra chất lượng

6.5 Xác nhận

Nhà cung cấp

Người sử dụng

7.5. Các phép đánh giá khả năng bảo trì

Phép đánh giá khả năng bảo trì ngoài phải có khả năng đo các thuộc tính như hoạt động của người bảo trì, người sử dụng, hoặc hệ thống chứa phần mềm, khi phần mềm được bảo trì hoặc thay đổi trong quá trình kiểm tra hoặc bảo trì.

7.5.1. Các phép đánh giá khả năng phân tích

Phép đánh giá khả năng phân tích ngoài phải có khả năng đo các thuộc tính cố gắng của người bảo trì hay người sử dụng hay tiêu tốn tài nguyên khi cố gắng chẩn đoán thiếu sót hoặc nguyên nhân của sự cố, hoặc xác định các phần bị thay đổi.

Bảng 18 – Bảng các phép đánh giá khả năng phân tích

Các phép đánh giá khả năng phân tích ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Khả năng theo dõi kiểm tra

Người sử dụng có thể nhận biết vận hành cụ thể nào gây ra sự cố không?

Người bảo trì có thể dễ dàng tìm vận hành cụ thể nào gây ra sự cố không?

Quan sát thái độ người sử dụng hoặc người bảo trì đang cố gắng xử lý sự cố

X = A/B

A = Số lượng dữ liệu thực tế được ghi trong quá trình vận hành.

B = Số lượng dữ liệu dự kiến được ghi đủ để giám sát trạng thái phần mềm trong quá trình vận hành

0<=X<=1

Càng gần 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

Hỗ trợ chức năng chẩn đoán

Các chức năng chẩn đoán hỗ trợ phân tích nguyên nhân có khả năng đến đâu?

Người sử dụng có thể nhận biết vận hành cụ thể nào gây ra sự cố không? (Người sử dụng có thể có khả năng tránh rơi vào sự cố giống như vậy với vận hành khác)

Người bảo trì có thể dễ dàng tìm nguyên nhân sự cố hay không?

Quan sát thái độ người sử dụng hoặc người bảo trì đang cố gắng xử lý sự cố sử dụng các chức năng chẩn đoán

X = A/B

A = Số sự cố người bảo trì có thể chẩn đoán (sử dụng chức năng chẩn đoán) để hiểu mối quan hệ nguyên nhân – kết quả

B = Tổ số sự cố ghi được

0<=X<=1

Càng gần 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

Khả năng phân tích lỗi

Người sử dụng có thể nhận biết vận hành cụ thể nào gây ra sự cố không?

Người bảo trì có thể dễ dàng tìm ra nguyên nhân sự cố không?

Quan sát thái độ người sử dụng hoặc người bảo trì đang cố gắng xử lý sự cố

X = 1 – A/B

A = Số sự cố nguyên nhân còn chưa tìm được

B = Tổng số sự cố ghi được

0<=X<=1

Càng xấp xỉ bằng 1 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

Người vận hành

Hiệu quả phân tích sự cố

Người sử dụng có thể phân tích hiệu quả nguyên nhân sự cố không? (Người sử dụng thỉnh thoảng thực hiện bảo trì bằng cách thiết lập các thông số)

Người bảo trì có thể dễ dàng tìm ra nguyên nhân sự cố không? Việc phân tích nguyên nhân sự cố dễ dàng đến mức nào?

Quan sát thái độ người sử dụng hoặc người bảo trì đang cố gắng xử lý sự cố

X = Sum(T)/N

T = Tout – Tin

Tout = Thời điểm các nguyên nhân sự cố được phát hiện (hoặc được thông báo cho người sử dụng)

Tin = Thời điểm nhận được thông báo lỗi

N = Số lỗi ghi được

0<=X

Càng nhỏ càng tốt.

Tỷ số

T = Thời gian Tin

Tout = Thời gian

N = Số đếm

X = Thời gian/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

CHÚ THÍCH:

1. Khuyến nghị đo thời gian lớn nhất trong trường hợp xấu nhất và khoảng thời gian (băng thông) biểu diễn độ lệch.

2. Khuyến nghị loại trừ số sự cố nguyên nhân còn chưa được tìm ra khi thực hiện đo. Tuy nhiên, tỷ lệ các sự cố không rõ như vậy cũng phải được đo và đưa ra cùng nhau.

3. Từ quan điểm của người sử dụng cá nhân, thời gian được quan tâm, trong khi đó sự nỗ lực cũng có thể là mối quan tâm từ quan điểm của người bảo trì. Do đó, người-giờ có thể được sử dụng thay thế cho thời gian.

Khả năng giám sát trạng thái

Người sử dụng có thể nhận biết vận hành cụ thể gây ra sự cố thông qua dữ liệu giám sát trong quá trình vận hành không?

Người bảo trì có thể dễ dàng tìm ra nguyên nhân sự cố thông qua dữ liệu giám sát trong quá trình vận hành không?

Quan sát thái độ người sử dụng hoặc người bảo trì đang cố gắng lấy thông tin giám sát ghi trạng thái phần mềm trong quá trình vận hành.

X = 1 – A/B

A = Số trường hợp người bảo trì (hoặc người sử dụng) không lấy được dữ liệu giám sát

B = Số lượng trường hợp mà người bảo trì (người sử dụng) cố gắng lấy dữ liệu giám sát ghi trạng thái phần mềm trong quá trình vận hành

0<=X<=1

Càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người phát triển

Người bảo trì

Người vận hành

7.5.2. Các phép đánh giá khả năng thay đổi được

Phép đánh giá khả năng thay đổi được ngoài phải có khả năng đo các thuộc tính như sự cố gắng của người bảo trì hay người sử dụng bằng cách đo hoạt động của người bảo trì, người sử dụng, hay hệ thống chứa phần mềm khi thử triển khai thay đổi xác định.

Bảng 169 – Bảng các phép đánh giá khả năng thay đổi được

Các phép đánh giá khả năng thay đổi được ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Tính hiệu quả chu trình thay đổi

Vấn đề của người sử dụng có thể được giải quyết thỏa đáng trong khoảng thời gian hợp lý không?

Giám sát tương tác giữa người sử dụng và nhà cung cấp.

Ghi lại thời gian từ khi người sử dụng bắt đầu yêu cầu đến khi vấn đề được giải quyết.

Thời gian trung bình: Tav = Sum(Tu)/N

Tu = Trc – Tsn

Tsn = Thời điểm người sử dụng hoàn thành gửi yêu cầu để bảo trì cho nhà cung cấp cùng báo cáo vấn đề

Trc = Thời điểm người sử dụng nhận được phiên bản sửa lại (hay báo cáo trạng thái)

N = Số phiên bản

0<Tav

Càng nhỏ càng tốt, trừ phi số phiên bản sửa lại lớn.

Tỷ lệ

Tu = Thời gian

Trc, Tsn = Thời gian

N = Số đếm

Tav = Thời gian

Báo cáo giải quyết vấn đề

Báo cáo bảo trì

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

Thời gian triển khai thay đổi phần mềm

Liệu người bảo trì có thể dễ dàng thay đổi phần mềm để giải quyết sự cố không?

Quan sát thái độ của người sử dụng và người bảo trì khi cố gắng thay đổi phần mềm.

Nếu không xem xét báo cáo giải quyết vấn đề hay báo cáo bảo trì

Thời gian trung bình: Tav = Sum(Tm)/N

Tm = Tout – Tin

Tout = Thời điểm nguyên nhân sự cố được gỡ bỏ bằng cách thay đổi phần mềm (hoặc trạng thái được báo cáo cho người sử dụng)

Tin = Thời điểm nguyên nhân sự cố được phát hiện

N = Số sự cố được ghi lại và được gỡ bỏ

0<Tav

Càng nhỏ càng tốt, trừ phi số sự cố lớn.

Tỷ lệ

Tm = Thời gian

Tin, Tout = Thời gian

Tav = Thời gian

Báo cáo giải quyết vấn đề

Báo cáo bảo trì

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

CHÚ THÍCH:

1. Khuyến nghị đo thời gian lớn nhất trong trường hợp xấu nhất và khoảng thời gian (băng thông) biểu diễn độ lệch.

Tính phức tạp của quá trình sửa đổi

Người bảo trì có thể dễ dàng thay đổi phần mềm để giải quyết vấn đề không?

Quan sát thái độ người bảo trì trong đang cố gắng thay đổi phần mềm. Nếu không xem xét báo cáo giải quyết lỗi hay báo cáo bảo trì và mô tả sản phẩm

T = Sum(AB)/N

A = Thời gian làm việc để thay đổi

B = Khối lượng thay đổi phần mềm

N = Số lượng các thay đổi

CHÚ THÍCH:

Kích cỡ thay đổi của phần mềm có thể được thay đổi dựa trên câu lệnh thực hiện của mã chương trình, số lượng thành phần thay đổi của đặc tả yêu cầu, hay số trang thay đổi của tài liệu…

0<T

Càng nhỏ càng tốt, hay số lượng yêu cầu thay đổi quá nhiều.

Tỷ lệ

A = Thời gian

B = Kích thước

N = Số đếm

T = Thời gian

Báo cáo giải quyết vấn đề

Báo cáo bảo trì

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

Khả năng thay đổi tham số

Người sử dụng hay người bảo trì có thể dễ dàng thay đổi tham số để thay đổi phần mềm và giải quyết vấn đề không?

Quan sát thái độ của người sử dụng hoặc người bảo trì khi cố gắng thay đổi phần mềm.

Nếu không xem xét báo cáo giải quyết vấn đề hay báo cáo bảo trì

X = 1 – A/B

A = Số trường hợp người bảo trì thất bại khi thay đổi phần mềm bằng cách sử dụng tham số

B = Số trường hợp người bảo trì cố gắng thay đổi phần mềm bằng cách sử dụng tham số

0<=X<=1

Càng gần đến 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng hoặc đặc tả

Báo cáo giải quyết vấn đề

Báo cáo bảo trì

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

Khả năng quản lý thay đổi phần mềm

Người sử dụng có thể dễ dàng nhận biết phiên bản sửa lại không?

Người bảo trì có thể dễ dàng thay đổi phần mềm để giải quyết vấn đề không?

Quan sát thái độ người sử dụng hoặc người bảo trì đang cố gắng thay đổi phần mềm.

Nếu không xem xét báo cáo giải quyết vấn đề hay báo cáo bảo trì

X = A/B

A = Số lượng dữ liệu thay đổi được ghi lại thực tế

B = Số lượng dữ liệu thay đổi dự kiến được ghi vừa đủ để dò tìm thay đổi phần mềm.

0<=X<=1

Càng gần đến một càng tốt hay gần đến 0 càng thay đổi ít

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Hướng dẫn sử dụng hoặc đặc tả

Báo cáo giải quyết vấn đề

Báo cáo bảo trì

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

7.5.3. Các phép đánh giá tính ổn định

Phép đánh giá tính ổn định ngoài phải có khả năng đo các thuộc tính liên quan đến hoạt động không mong đợi của hệ thống chứa phần mềm khi phần mềm được kiểm tra hoặc vận hành sau khi thay đổi.

Bảng 20 – Bảng các phép đánh giá tính ổn định

Các phép đánh giá tính ổn định ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Tỷ lệ thay đổi thành công

Người sử dụng có thể vận hành hệ thống phần mềm không sự cố sau khi được bảo trì không?

Người bảo trì có thể dễ dàng giảm sự cố gây ra bởi tác động của việc bảo trì không?

Quan sát thái độ của người sử dụng hay người bảo trì đang vận hành hệ thống phần mềm sau bảo trì.

Đếm số lượng sự cố mà người sử dụng hay người bảo trì gặp phải khi vận hành phần mềm trước và sau khi bảo trì

Nếu không xem xét báo cáo giải quyết sự cố, báo cáo vận hành hay báo cáo bảo trì

X = Na/Ta

Y{(Na/Ta)/(Nb/Tb)}

Na = Số trường hợp người sử dụng gặp sự cố sau trong vận hành sau khi phần mềm được thay đổi

Nb = Số trường hợp người sử dụng gặp sự cố trong vận hành trước khi phần mềm được thay đổi

Ta = Thời gian vận hành trong khoảng thời gian quan sát xác định sau khi phần mềm được thay đổi.

Tb = Thời gian vận hành trong khoảng thời gian quan sát xác định trước khi phần mềm được thay đổi.

0<=X,Y

Càng nhỏ và càng gần đến 0 càng tốt.

Tỷ lệ

Na,Nb = Số đếm

Ta,Tb = Thời gian

X = Số đếm/Thời gian

Y=[(Số đếm/Thời gian/(Số đếm/Thời gian)]

Báo cáo giải quyết vấn đề

Báo cáo bảo trì

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

CHÚ THÍCH:

1. X và Y có nghĩa “tần suất gặp sự cố sau khi thay đổi” và “tần suất dao động các sự cố gặp phải trước/ sau khi thay đổi”.

2. Người sử dụng có thể cần khoảng thời gian nhất định để xác định tác động của các thay đổi phần mềm, khi nâng cấp phần mềm được đưa ra đề giải quyết các vấn đề.

3. Khuyến nghị so sánh tần suất này trước và sau khi thay đổi.

4. Nếu các chức năng thay đổi được nhận biết, khuyến nghị xác định các sự cố gặp phải được phát hiện trong chức năng thay đổi hay trong các chức năng khác. Mức độ ảnh hưởng có thể được chấm điểm cho mỗi sự cố.

Xác định ảnh hưởng của thay đổi

(Sự cố nảy sinh sau khi thay đổi)

Người sử dụng có thể vận hành hệ thống phần mềm không sự cố sau khi được bảo trì không?

Người bảo trì có thể dễ dàng giảm sự cố gây ra bởi tác động của việc bảo trì không?

Đếm sự cố xảy ra sau khi thay đổi, chúng móc xích lẫn nhau và ảnh hưởng bởi thay đổi.

X = A/N

A = Số sự cố nảy sinh sau khi sự cố được giải quyết bằng thay đổi trong một thời gian nhất định

N = Số sự cố được giải quyết

0<=X

Càng nhỏ, càng gần đến 0 càng tốt.

Tuyệt đối

A = Số đếm

N = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người sử dụng

Người bảo trì

Người vận hành

CHÚ THíCH: X có nghĩa là “sự cố chuỗi nảy sinh trên sự cố được giải quyết”. Khuyến nghị thực hiện phép đo chính xác bằng cách kiểm tra nguyên nhân sự cố hiện thời thuộc về thay đổi cho giải quyết sự cố trước hay không.

7.5.4. Các phép đánh giá khả năng kiểm tra

Phép đánh giá khả năng kiểm tra ngoài phải có khả năng đo các thuộc tính như sự cố gắng của người bảo trì hay người sử dụng bằng cách đo hoạt động của người bảo trì, người sử dụng, hay hệ thống chứa phần mềm khi thử kiểm tra phần mềm đã thay đổi hay chưa thay đổi.

Bảng 171 – Bảng các phép đánh giá khả năng kiểm tra

Các phép đánh giá khả năng kiểm tra ngoài
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tính sẵn sàng của chức năng kiểm tra có sẵn sàng trong phần mềm	Liệu người sử dụng và người bảo trì có thể dễ dàng thực hiện kiểm tra vận hành mà không cần chuẩn bị thêm phương tiện kiểm tra không?	Quan sát thái độ của người sử dụng hay người bảo trì kiểm tra hệ thống phần mềm sau khi bảo trì.	X = A/B A = Số trường hợp người bảo trì có thể sử dụng chức năng kiểm tra phù hợp có sẵn B = Số trường hợp thực hiện kiểm tra	0<=X<=1 Càng lớn, càng gần 1.0 càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người sử dụng Người bảo trì Người vận hành
CHÚ THÍCH: Ví dụ của chức năng kiểm tra có sẵn bao gồm chức năng mô phỏng, chức năng kiểm tra trước khi sử dụng,…
Tính hiệu quả khi kiểm tra lại	Liệu người sử dụng và người bảo trì có thể dễ dàng kiểm tra vận hành và xác định phần mềm đã sẵn sàng hoạt động hay không?	Quan sát thái độ của người sử dụng hay người bảo trì kiểm tra hệ thống phần mềm sau khi bảo trì.	X = Sum(T)/N T = Thời gian cần thiết để kiểm tra chắc chắn rằng sự cố được báo cáo đã được giải quyết hay chưa N = Số sự cố được giải quyết	0<X Càng nhỏ, càng tốt	Tỷ lệ	T = Thời gian N = Số đếm X = Thời gian/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người sử dụng Người bảo trì Người vận hành
CHÚ THÍCH: X có nghĩa “thời gian trung bình kiểm tra sau khi giải quyết sự cố”. Nếu các sự cố chưa được giải quyết hay sửa, loại trừ chúng và đo tỷ lệ các lỗi này riêng.
Khả năng khởi tạo lại việc kiểm tra	Người sử dụng và người bảo trì có thể dễ dàng thực hiện kiểm tra vận hành với các điểm kiểm tra sau khi bảo trì không?	Quan sát thái độ của người sử dụng hay người bảo trì kiểm tra hệ thống phần mềm sau bảo trì.	X = A/B A = Số trường hợp người bảo trì có thể tạm dừng và khởi tạo lại quá trình kiểm tra đang thực hiện tại một số điểm mong muốn để kiểm tra lần lượt từng bước một. B = Số trường hợp tạm dừng quá trình kiểm tra	0<=X<=1 Càng lớn và càng gần 1.0 càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người sử dụng Người bảo trì Người vận hành

7.5.5. Các phép đánh giá tuân thủ của khả năng bảo trì

Phép đánh giá tuân thủ của khả năng bảo trì ngoài phải có khả năng đo thuộc tính như số lượng chức năng hay xuất hiện các vấn đề tuân thủ, mà phần mềm không tôn trọng triệt để các tiêu chuẩn, quy ước, quy định được yêu cầu liên quan đến khả năng bảo trì.

Bảng 182 – Bảng các phép đánh giá tuân thủ của khả năng bảo trì

Các phép đánh giá tính tuân thủ của khả năng bảo trì
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tuân thủ khả năng bảo trì	Khả năng bảo trì của sản phẩm tuân thủ các quy định, tiêu chuẩn, thỏa thuận áp dụng như thế nào?	Đếm số thành phần yêu cầu tuân thủ đáp ứng được, và so sánh với tổng số thành phần yêu cầu tuân thủ trong đặc tả	X = 1 – A/B A = Số lượng thành phần tuân thủ của khả năng bảo trì được xác định mà không được triển khai trong quá trình kiểm tra B = Tổng số thành phần cần tuân thủ khả năng bảo trì được xác định.	0<=X<=1 Càng gần 1.0 thì càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Mô tả sản phẩm (Hướng dẫn sử dụng hoặc Đặc tả) của tuân thủ và các tiêu chuẩn, thỏa thuận, hay quy định liên quan Đặc tính và báo cáo kiểm tra	5.3 Kiểm tra chất lượng 6.5 Xác nhận	Người cung cấp Người sử dụng
CHÚ THÍCH: Sẽ hữu ích nếu thu thập nhiều giá trị đo trong khoảng thời gian dài, phân tích xu hướng tăng thành phần tuân thủ được thỏa mãn và xác định nó có thỏa mãn hoàn toàn không.

7.6. Các phép đánh giá tính khả chuyển

Phép đánh giá tính khả chuyển ngoài phải có khả năng đo các thuộc tính như hoạt động của người vận hành hay hệ thống trong phạm vi các hoạt động chuyển đổi.

7.6.1. Khả năng tương thích

Phép đánh giá khả năng tương thích ngoài phải có khả năng đo các thuộc tính như hoạt động của hệ thống hay người sử dụng đang thử tương hợp phần mềm với các môi trường xác định khác nhau. Khi người sử dụng phải áp dụng các thủ tục tương hợp khác với các thủ tục cung cấp bởi phần mềm trước kia cho các nhu cầu tương hợp cụ thể, nỗ lực của người sử dụng được yêu cầu cho quá trình tương hợp phải được đo.

Bảng 193 – Bảng các phép đánh giá khả năng tương thích

Các phép đánh giá khả năng tương thích ngoài

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Khả năng tương thích của cấu trúc dữ liệu

Người sử dụng hoặc người bảo trì có thể dễ dàng tương hợp phần mềm với tập dữ liệu trong môi trường mới không?

Quan sát thái độ người sử dụng hoặc người bảo trì khi cố gắng tương hợp phần mềm với môi trường hoạt động mới

X = A/B

A = Số lượng dữ liệu có khả năng vận hành nhưng không được nhận biết do vận hành không đầy đủ gây ra bởi các hạn chế trong quá trình tương hợp

B = Số lượng dữ liệu được mong đợi có khả năng vận hành trong môi trường tương hợp với phần mềm

0<=X<=1

Càng lớn và càng gần bằng 1.0 càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

CHÚ THÍCH: Các dữ liệu này chủ yếu bao gồm nhiều dạng dữ liệu như các tệp dữ liệu, bộ dữ liệu hoặc các cơ sở dữ liệu được tương hợp với các khối lượng dữ liệu, thành phần dữ liệu hoặc cấu trúc dữ liệu khác nhau. A và B ở công thức trên cần được đếm với cùng một dạng dữ liệu. Sự tương thích như vậy có thể được yêu cầu khi, ví dụ, phạm vi công việc được mở rộng.

Khả năng tương thích môi trường phần cứng

(Khả năng tương thích với các thiết bị phần cứng và thiết bị mạng)

Người sử dụng hoặc người bảo trì có thể dễ dàng tương hợp phần mềm với môi trường không?

Hệ thống phần mềm có đủ khả năng tự tương thích với môi trường hoạt động?

Quan sát thái độ của người sử dụng hoặc người bảo trì khi cố gắng tương hợp phần mềm với môi trường hoạt động

X = 1 – A/B

A = Số lượng chức năng vận hành các nhiệm vụ của chúng không được hoàn thành hoặc không đạt được kết quả đáp ứng mức độ thỏa đáng trong quá trình kiểm tra vận hành với môi trường công việc người sử dụng

B = Tổng số các chức năng được kiểm tra.

0<=X<=1

Càng lớn càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

CHÚ THÍCH: Khuyến nghị tiến hành kiểm tra phối hợp quá tải với các cấu hình môi trường phần cứng có khả năng phối hợp hoạt động trong môi trường nhiều người sử dụng.

Khả năng tương thích với môi trường của tổ chức

(Khả năng tương thích của tổ chức với hạ tầng của tổ chức)

Người sử dụng hoặc người bảo trì có thể dễ dàng tương hợp phần mềm với môi trường ?

Hệ thống phần mềm có đủ khả năng tự tương thích với môi trường hoạt động?

Quan sát thái độ của người sử dụng hoặc người bảo trì khi cố gắng tương hợp phần mềm với môi trường hoạt động

X = 1 – A/B

B = Tổng số các chức năng được kiểm tra.

0<=X<=1

Càng lớn càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

CHÚ THÍCH:

1. Khuyến nghị tiến hành kiểm tra có tính đến nhiều dạng kết hợp các thành phần hạ tầng trong môi trường công việc có thể có của người sử dụng.

2. “Khả năng tương thích môi trường tổ chức” liên quan tới môi trường hoạt động kinh doanh của tổ chức người sử dụng “Khả năng tương thích môi trường hệ thống phần mềm” liên quan tới môi trường hoạt động kỹ thuật của hệ thống. Do vậy, ở đây có sự phân biệt rõ ràng.

Tính thân thiện với người sử dụng

Người sử dụng hoặc người bảo trì có thể dễ dàng tương hợp phần mềm với môi trường?

Quan sát thái độ người sử dụng hoặc người bảo trì khi cố gắng tương hợp phần mềm với môi trường hoạt động

T = Tổng thời gian vận hành người sử dụng để hoàn thành tương thích phần mềm với môi trường người sử dụng khi họ cài đặt hoặc thay đổi cài đặt

CHÚ THÍCH: T có nghĩa “người sử dụng yêu cầu tương hợp với môi trường người sử dụng”. Người-giờ có thể được sử dụng thay cho thời gian.

0<T

Càng nhỏ càng tốt.

Tỷ số

T = Thời gian

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

Khả năng tương thích với môi trường phần mềm hệ thống

(Khả năng tương thích với hệ điều hành, phần mềm mạng và phần mềm ứng dụng liên kết)

Người sử dụng hoặc người bảo trì có thể dễ dàng tương hợp phần mềm với môi trường ?

Hệ thống phần mềm có đủ khả năng tự tương thích với môi trường hoạt động?

Quan sát thái độ của người sử dụng hoặc người bảo trì khi cố gắng tương hợp phần mềm với môi trường hoạt động

X = 1 – A/B

A = Số lượng chức năng vận hành có các nhiệm vụ không được hoàn thành hoặc không đạt được kết quả đáp ứng mức thỏa đáng trong quá trình kiểm tra vận hành phối hợp với phần mềm hệ thống điều hành hoặc phần mềm ứng dụng hiện thời.

B = Tổng số các chức năng được kiểm tra.

0<=X<=1

Càng lớn càng tốt.

Tuyệt đối

A = Số đếm

B = Số đếm

X = Số đếm/Số đếm

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

CHÚ THÍCH:

1. Khuyến nghị tiến hành kiểm tra phối hợp quá tải với phần mềm hệ thống điều hành hoặc phần mềm ứng dụng hiện thời, chúng có thể phối hợp hoạt động trong nhiều môi trường người sử dụng.

2. “Khả năng tương thích môi trường tổ chức” liên quan tới môi trường hoạt động kinh doanh của tổ chức người sử dụng. “Khả năng tương thích môi trường phần mềm hệ thống” liên quan tới môi trường hoạt động kỹ thuật trong hệ thống. Do vậy, ở đây có sự phân biệt rõ ràng.

7.6.2. Các phép đánh giá khả năng cài đặt phần mềm

Phép đánh giá khả năng cài đặt ngoài phải có khả năng đo các thuộc tính như hoạt động của hệ thống hoặc người sử dụng đang thử cài đặt phần mềm trong môi trường cụ thể người sử dụng.

Bảng 204 – Bảng các phép đánh giá khả năng cài đặt phần mềm

Các phép đánh giá khả năng cài đặt phần mềm
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Dễ dàng cài đặt	Người sử dụng hay người vận hành có thể dễ dàng cài đặt phần mềm trong môi trường hoạt động không?	Quan sát thái độ của người sử dụng hay người bảo trì khi cố gắng cài đặt phần mềm trong môi trường hoạt động	X = A/B A = Số trường hợp người sử dụng thay đổi cài đặt thành công để thuận tiện cho mình B = Tổng số trường hợp người sử dụng cố gắng thay đổi cài đặt để thuận tiện cho mình	0<=X<=1 Càng gần 1.0 càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người phát triển Người bảo trì Người vận hành
CHÚ THÍCH 1. Phép đánh giá này được đề xuất như một sử dụng thực nghiệm 2. Khi phép đánh giá cơ sở thời gian được yêu cầu, thời gian cài đặt có thể có khả năng đo được.
Dễ dàng thực hiện lại cài đặt	Người sử dụng hay người vận hành có thể dễ dàng cài đặt lại phần mềm không?	Quan sát thái độ của người sử dụng hay người bảo trì khi thử cài đặt lại phần mềm	X = 1 – A/B A = Số trường hợp người sử dụng không cài đặt lại được trong quá trình cài đặt B = Tổng số trường hợp người sử dụng cố gắng cài đặt lại trong quá trình cài đặt	0<=X<=1 Càng gần 1.0 càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người phát triển Người bảo trì Người vận hành
CHÚ THÍCH: Phép đánh giá này được đề xuất như một sử dụng thực nghiệm
CHÚ THÍCH: Các phép đánh giá bổ sung sau có thể được sử dụng. 1. Cài đặt dễ dàng Thao tác người sử dụng để cài đặt X=A A= Số thao tác người sử dụng cần để cài đặt 0<X; Càng nhỏ càng tốt. 2. Dễ dàng cài đặt Mức hỗ trợ cài đặt X=A A được đánh giá với, ví dụ: – Chỉ có chương trình thực hiện cài đặt và không cần bất cứ gì hơn (tuyệt vời); – Hướng dẫn cài đặt (tốt); – Mã nguồn chương trình cần thay đổi để cài đặt (tồi). X = Chuyển đổi trực tiếp của giá trị đo 3. Giảm nỗ lực hoạt động cài đặt Tỷ lệ giảm thủ tục vận hành cài đặt của người sử dụng X = 1-A/B A = Số thủ tục vận hành cài đặt người sử dụng bắt buộc phải thực hiện sau khi giảm thủ tục B = Số thủ tục vận hành cài đặt bình thường 0<=X=1; Càng gần 1.0 càng tốt. 4. Dễ dàng của thao tác cài đặt người sử dụng Mức độ dễ dàng của thao tác cài đặt người sử dụng X = Điểm mức độ dễ dàng thao tác người sử dụng Ví dụ mức độ dễ như sau: [rất dễ] chỉ yêu cầu người sử dụng bắt đầu cài đặt hoặc các chức năng cài đặt và sau đó quan sát cài đặt; [dễ] chỉ yêu cầu người sử dụng trả lời câu hỏi cài đặt hoặc các chức năng cài đặt; [không dễ] yêu cầu người sử dụng tra cứu các tham số từ các bảng hoặc điền vào các ô trống; [phức tạp] yêu cầu người sử dụng tìm kiếm các tệp tham số, tra cứu các tham số từ các tệp được thay đổi và viết chúng. X = Chuyển đổi trực tiếp của giá trị đo

7.6.3. Các phép đánh giá khả năng cùng tồn tại

Phép đánh giá khả năng cùng tồn tại ngoài phải có khả năng đo các thuộc tính như hoạt động của hệ thống hay người sử dụng đang thử sử dụng phần mềm cùng với các phần mềm độc lập khác trong môi trường chung chia sẻ các tài nguyên chung.

Bảng 215 – Bảng các phép đánh giá khả năng cùng tồn tại

Các phép đánh giá khả năng cùng tồn tại

Tên phép đánh giá

Mục đích của phép đánh giá

Phương pháp áp dụng

Phép đo, công thức và tính toán các thành phần dữ liệu

Chuyển đổi giá trị đo

Loại thang đánh giá

Loại phép đo

Đầu vào cho phép đo

Tham chiếu ISO/IEC 12207 SLCP

Đối tượng sử dụng

Sẵn sàng cùng tồn tại

Người sử dụng có thường xuyên gặp phải các ràng buộc hoặc sự cố không mong muốn khi vận hành đồng thời với phần mềm khác?

Sử dụng phần mềm đã được đánh giá đồng thời với các phần mềm khác mà người sử dụng hay dùng

X = A/T

A = Số ràng buộc hoặc sự cố không mong muốn người sử dụng gặp phải khi vận hành đồng thời với phần mềm khác

T = Thời gian vận hành đồng thời với phần mềm khác

0<=X

Càng gần 0 càng tốt.

Tỷ lệ

A = Số đếm

T = Thời gian

X = Số đếm/Thời gian

Báo cáo giải quyết vấn đề

Báo cáo vận hành

5.3 Kiểm tra chất lượng

5.4 Vận hành

5.5 Bảo trì

Người phát triển

Người bảo trì

Người vận hành

SQA

7.6.4. Các phép đánh giá khả năng thay thế

Phép đánh giá khả năng thay thế ngoài phải có khả năng đo các thuộc tính như hoạt động của hệ thống hay người sử dụng đang thử sử dụng phần mềm thay thế cho phần mềm xác định trong môi trường của phần mềm đó.

Bảng 226 – Bảng các phép đánh giá khả năng thay thế

Các phép đánh giá khả năng thay thế
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Khả năng tiếp tục sử dụng dữ liệu	Người sử dụng hay người vận hành có thể dễ dàng tiếp tục sử dụng cùng dữ liệu sau khi thay thế phần mềm này thay cho phần mềm trước không? Liệu việc thay thế hệ thống phần mềm có thành công không?	Quan sát thái độ của người sử dụng hay người bảo trì khi người sử dụng thay thế phần mềm cũ bằng phần mềm mới.	X = A/B A = Khối lượng dữ liệu sử dụng trong phần mềm khác sẽ thay thế và được đảm bảo rằng chúng có khả năng được tiếp tục sử dụng lại. B = Khối lượng dữ liệu sử dụng trong phần mềm khác sẽ được thay thế và dự định tiếp tục được sử dụng lại.	0<=X<=1 Càng lớn càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người phát triển Người bảo trì Người vận hành
CHÚ THÍCH: Phép đo này có thể được áp dụng cho cả hai trường hợp thay thế phần mềm hoàn toàn khác và phiên bản khác của cùng một chuỗi phần mềm
Tính bao hàm của chức năng	Người sử dụng hay người vận hành có thể dễ dàng tiếp tục sử dụng chức năng tương tự sau khi thay thế phần mềm không? Liệu việc thay thế phần mềm có thành công không?	Quan sát thái độ của người sử dụng hay người bảo trì khi người sử dụng thay thế phần mềm cũ bằng phần mềm mới.	X = A/B A = Số chức năng tạo ra kết quả tương tự chức năng cũ và không đòi hỏi bất kỳ sự thay đổi nào. B = Số chức năng được kiểm tra tương tự như các chức năng được cung cấp bởi các phần mềm khác bị thay thế	0<=X<=1 Càng lớn càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Báo cáo giải quyết vấn đề Báo cáo vận hành	5.3 Kiểm tra chất lượng 5.4 Vận hành 5.5 Bảo trì	Người phát triển Người bảo trì Người vận hành
CHÚ THÍCH: Phép đo này có thể được áp dụng cho cả hai trường hợp thay thế phần mềm hoàn toàn khác và phiên bản khác của cùng một chuỗi phần mềm
Tính nhất quán của chức năng hỗ trợ người sử dụng	Mức độ nhất quán của các thành phần mới với giao diện người sử dụng hiện có như thế nào?	Quan sát thái độ của người sử dụng và tham khảo ý kiến	X = 1 – A/A2 A = Số lượng chức năng mới mà người sử dụng thấy mức độ nhất quán không thỏa đáng với mong muốn B = Số lượng chức năng mới	0<=X Càng lớn càng tốt.	Tuyệt đối	A1 = Số đếm A2 = Số đếm X = Số đếm/Số đếm	Báo cáo kiểm tra Báo cáo vận hành	5.3 Tích hợp 5.3 Kiểm tra chất lượng 5.4 Vận hành 6.5 Đảm bảo chất lượng	Người sử dụng Người thiết kế giao diện người sử dụng Người vận hành Người phát triển Người kiểm tra SQA
CHÚ THÍCH: 1. Trường hợp phần mềm khác được đưa ra thay thế phần mềm cũ, phần mềm mới có thể được chỉ định như phiên bản hiện thời. 2. Trong trường hợp mẫu tương tác được thay đổi để cải tiến giao diện người sử dụng trong phiên bản mới, đề xuất quan sát thái độ người sử dụng và đếm số trường hợp người sử dụng truy cập chức năng thất bại do nguyên nhân không phù hợp với mong muốn của người sử dụng xuất phát từ phiên bản cũ.

7.6.5. Các phép đánh giá tuân thủ của tính khả chuyển

Phép đánh giá tuân thủ của tính khả chuyển ngoài phải có khả năng đo các thuộc tính như số lượng chức năng cùng với, hoặc xuất hiện các vấn đề tuân thủ, mà sản phẩm phần mềm không tôn trọng triệt để các tiêu chuẩn, quy ước, quy định được yêu cầu liên quan đến tính khả chuyển.

Bảng 237 – Bảng các phép đánh giá tuân thủ của tính khả chuyển

Các phép đánh giá tuân thủ tính khả chuyển
Tên phép đánh giá	Mục đích của phép đánh giá	Phương pháp áp dụng	Phép đo, công thức và tính toán các thành phần dữ liệu	Chuyển đổi giá trị đo	Loại thang đánh giá	Loại phép đo	Đầu vào cho phép đo	Tham chiếu ISO/IEC 12207 SLCP	Đối tượng sử dụng
Tuân thủ của tính khả chuyển	Tính khả chuyển của sản phẩm tuân thủ các quy định, tiêu chuẩn, thỏa thuận đang áp dụng như thế nào?	Đếm số thành phần yêu cầu tuân thủ đã được đáp ứng, so sánh với tổng số thành phần yêu cầu tuân thủ từ đặc tả	X = 1 – A/B A = Số lượng thành phần tuân thủ tính khả chuyển được xác định không được triển khai trong quá trình kiểm tra. B = Tổng số thành phần tuân thủ tính khả chuyển xác định	0<=X<=1 Càng gần đến 1.0 càng tốt.	Tuyệt đối	A = Số đếm B = Số đếm X = Số đếm/Số đếm	Mô tả sản phẩm (Hướng dẫn sử dụng hoặc Đặc tả) của tuân thủ và các tiêu chuẩn, thỏa thuận, quy định liên quan Đặc tả kiểm tra và báo cáo Báo cáo vận hành	5.3 Kiểm tra chất lượng 6.5 Đảm bảo chất lượng	Nhà cung cấp Người sử dụng
CHÚ THÍCH: Có thể sẽ hữu ích nếu thu thập nhiều giá trị đo trong khoảng thời gian, phân tích xu hướng tăng các thành phần tuân thủ thỏa mãn, và xác định chúng có hoàn toàn thỏa mãn không.

PHỤ LỤC A

(Tham khảo)

CÁC VẤN ĐỀ CẦN QUAN TÂM KHI SỬ DỤNG CÁC PHÉP ĐÁNH GIÁ

A.1. Làm sáng tỏ các phép đánh giá

A.1.1. Sự khác nhau tiềm năng giữa kiểm tra và ngữ cảnh hoạt động sử dụng

Khi lập kế hoạch sử dụng các phép đánh giá hoặc làm sáng tỏ các phép đánh giá, điều quan trọng là phải hiểu rõ ngữ cảnh mục tiêu của việc sử dụng sản phẩm phần mềm, và bất kỳ sự khác nhau tiềm năng nào giữa kiểm tra và ngữ cảnh hoạt động sử dụng. Ví dụ như hệ đo “thời gian yêu cầu để học vận hành” thường là khác nhau giữa những người vận hành có kỹ năng và những người vận hành chưa có kỹ năng trên cùng hệ thống phần mềm. Ví dụ về sự khác biệt tiềm năng này được trình bày ở phần dưới.

a) Các khác nhau giữa môi trường kiểm tra và môi trường hoạt động

Có bất kỳ sự khác nhau đáng kể nào giữa môi trường kiểm tra và thực hiện khai thác trong môi trường người sử dụng?

Sau đây là các ví dụ:

Kiểm tra với hiệu năng cao hơn/ có thể so sánh/ thấp hơn của CPU của máy tính vận hành;
Kiểm tra với hiệu năng cao hơn/ có thể so sánh/ thấp hơn của mạng vận hành và truyền thông;
Kiểm tra với hiệu năng cao hơn/ có thể so sánh/ thấp hơn của hệ điều hành đang hoạt động;
Kiểm tra với hiệu năng cao hơn/ có thể so sánh/ thấp hơn của giao diện người sử dụng.

b) Các khác nhau giữa thực hiện kiểm tra và thực hiện vận hành thực tế

Có bất kỳ sự khác nhau đáng kể nào giữa thực hiện kiểm tra và thực hiện vận hành trong môi trường người sử dụng?

Sau đây là các ví dụ:

Bao hàm chức năng trong môi trường kiểm tra;
Tỷ lệ lấy mẫu trường hợp kiểm tra;
Kiểm tra tự động của các giao dịch thời gian thực;
Tải ứng suất;
Hoạt động 24 giờ 7 ngày trên tuần (liên tục không dừng);
Tính thích hợp của dữ liệu cho quá trình kiểm tra của các trường hợp ngoại lệ và lỗi;
Xử lý theo chu kỳ;
Sử dụng tài nguyên;
Các mức gián đoạn;
Áp lực sản xuất;
Sự đứt quãng.

c) Theo dõi hiện trạng người sử dụng

Có sự khác nhau đáng kể nào giữa hiện trạng người sử dụng khi kiểm tra và người sử dụng khi vận hành?

Sau đây là các ví dụ:

– Pha trộn giữa các loại người sử dụng;

– Các mức kỹ năng người sử dụng;

– Người sử dụng thông thạo và người sử dụng có kỹ năng trung bình;

– Nhóm người sử dụng hạn chế hay người sử dụng công cộng.

A.1.2. Các vấn đề ảnh hưởng tới tính xác thực của các kết quả

Các vấn đề sau có thể ảnh hưởng tới tính xác thực của dữ liệu được thu thập.

(a) Các thủ tục thu thập kết quả đánh giá

Thu thập một cách tự động bằng các công cụ hoặc các thiết bị/ thu thập nhân công/ bằng các câu hỏi hoặc phỏng vấn;

(b) Nguồn của các kết quả đánh giá

Các báo cáo của chính người phát triển/ báo cáo của người kiểm tra/ hoặc báo cáo của người đánh giá;

(c) Sự xác nhận dữ liệu kết quả

Tự kiểm tra của chính người phát triển/ thanh tra bằng những người đánh giá độc lập.

A.1.3. Sự cân bằng của các tài nguyên đo kiểm

Sự cân bằng của các phép đo sử dụng tại mỗi giai đoạn có phù hợp với mục đích đánh giá?

Quan trọng là phải cân bằng nguồn lực sử dụng để áp dụng cho một dải thích hợp các phép đánh giá cho các phép đánh giá chất lượng trong, chất lượng ngoài và chất lượng sử dụng.

A.1.4. Sự chính xác của các đặc tính kỹ thuật

Có hay không các khác nhau đáng kể giữa đặc tả phần mềm và các yêu cầu vận hành thực tế?

Các phép đo được thực hiện trong suốt quá trình đánh giá sản phẩm phần mềm ở những giai đoạn khác nhau được so sánh với các đặc tính kỹ thuật của sản phẩm. Do đó, điều quan trọng là phải bảo đảm bằng thẩm tra và xác nhận rằng các đặc tả sản phẩm sử dụng cho đánh giá phản ánh các yêu cầu thật sự và thực tế trong vận hành.

A.2. Xác nhận các phép đánh giá

A.2.1. Thuộc tính mong muốn cho các phép đánh giá

Để thu được các kết quả đúng đắn từ việc đánh giá chất lượng, các phép đánh giá phải có những thuộc tính như dưới đây. Nếu một phép đánh giá không có những thuộc tính này thì mô tả phép đánh giá phải làm sáng tỏ ràng buộc liên quan về tính xác thực của nó và, nếu có thể, trạng thái đó được xử lý như thế nào.

a) Tính tin cậy (của phép đánh giá): Tính tin cậy gắn kết với lỗi ngẫu nhiên. Một phép đánh giá là không có lỗi ngẫu nhiên nếu sự thay đổi ngẫu nhiên đó không ảnh hưởng tới các kết quả của phép đánh giá.
b) Khả năng lặp lại (của phép đánh giá): Sử dụng lặp lại phép đánh giá cho cùng sản phẩm sử dụng các đặc tính kỹ thuật đánh giá giống nhau (bao gồm cùng môi trường), loại người sử dụng và môi trường bằng các người đánh giá khác nhau, phải cho kết quả đánh giá giống nhau trong dung sai thích hợp. Dung sai thích hợp phải bao gồm các thành phần như sự mệt mỏi, hiệu ứng tự học.
c) Khả năng tái lập (của phép đánh giá): Sử dụng phép đánh giá cho cùng sản phẩm sử dụng các đặc tính kỹ thuật đánh giá giống nhau (bao gồm cùng môi trường), loại người sử dụng và môi trường bằng các người đánh giá khác nhau, phải cho kết quả đánh giá giống nhau trong dung sai thích hợp.

CHÚ THÍCH: Khuyến nghị rằng sử dụng phân tích thống kê để đo sự thay đổi của các kết quả.

d) Tính hiệu dụng (của phép đánh giá): Phép đánh giá phải chỉ rõ các điều kiện (ví dụ như sự tồn tại của các thuộc tính xác định) mà nó ràng buộc việc sử dụng phép đánh giá.
e) Tính chỉ báo (của phép đánh giá): Khả năng của phép đánh giá xác định các phần hoặc các mục của phần mềm phải được cải tiến, đưa ra những kết quả đo được so sánh với kết quả mong muốn.

CHÚ THÍCH 2: Phép đánh giá được chọn hoặc được đề xuất phải cung cấp dẫn chứng tài liệu của tính hiệu dụng của phép đánh giá cho việc sử dụng, không giống như chỉ yêu cầu thanh tra dự án.

f) Độ chính xác (của hệ đo): Phép đánh giá nên có những thuộc tính sau đây:

1) Tính khách quan (của hệ đo): Các kết quả đánh giá và đầu vào dữ liệu của nó phải thực sự: tức là không bị ảnh hưởng bởi cảm giác hoặc các quan điểm của người đánh giá, người sử dụng kiểm tra … (loại trừ sự thỏa mãn hoặc tính hấp dẫn của phép đánh giá khi cảm giác và quan điểm người sử dụng được đo).

2) Tính công bằng (của hệ đo): Phép đo không được bị lệch bất kỳ về phía kết quả riêng đặc thù nào.

3) Độ chính xác đủ (của hệ đo): Độ chính xác được xác định bằng thiết kế của phép đánh giá, và đặc biệt bởi lựa chọn xác định tài liệu sử dụng như cơ sở cho phép đánh giá. Người sử dụng phép đánh giá sẽ mô tả độ chính xác và độ nhạy của phép đánh giá.

g) Ý nghĩa (của hệ đo): Phép đo phải tạo ra các kết quả có ý nghĩa về các hoạt động của phần mềm hoặc các đặc tính chất lượng.

Phép đánh giá cũng phải hiệu quả về chi phí: có nghĩa là các phép đánh giá chi phí đắt hơn phải tạo ra các kết quả giá trị hơn.

A.2.2. Chứng minh tính xác thực của các phép đánh giá

Người sử dụng các phép đánh giá phải chỉ rõ các phương pháp chứng minh tính xác thực của phép đánh giá, như được chỉ ra ở dưới đây:

(a) Tính tương quan

Sự biến đổi trong các giá trị đặc tính chất lượng (các hệ đo của các phép đánh giá cơ bản trong sử dụng vận hành) được giải thích bởi sự biến đổi trong các giá trị đánh giá, được đưa ra bằng bình phương hệ số tuyến tính.

Người đánh giá có thể dự đoán các đặc tính chất lượng mà không cần đo trực tiếp bằng cách sử dụng các phép đánh giá tương quan.

(b) Sự tự hiệu chỉnh

Nếu một phép đánh giá M liên quan trực tiếp tới một giá trị tiêu chí chất lượng Q (các phép đo của các phép đánh giá trong sử dụng vận hành), cho một sản phẩm hoặc quá trình cho trước, thì thay đổi giá trị từ Q(T1) tới Q(T2), có thể dẫn đến thay đổi giá trị phép đo từ M(T1) tới M(T2) theo cùng một hướng (ví dụ, nếu Q tăng, M tăng).

Người đánh giá có thể phát hiện sự thay đổi đặc tính chất lượng theo một chu kỳ thời gian mà không cần đo trực tiếp bằng cách sử dụng những phép đánh giá có khả năng tự hiệu chỉnh.

(c) Tính nhất quán

Nếu các giá trị đặc tính chất lượng (các hệ đo của các phép đánh giá trong sử dụng vận hành) Q1, Q2, …. Qn tương ứng với các sản phẩm hoặc quy trình 1, 2, …, n có mối quan hệ Q1>Q2 >…>Qn thì các giá trị phép đánh giá tương ứng có thể có mối quan hệ M1 > M2 >…> Mn.

Người đánh giá có thể lưu ý những ngoại lệ và những thành phần hay lỗi của phần mềm bằng cách sử dụng những phép đánh giá có khả năng nhất quán.

(d) Tính có thể dự báo

Nếu một phép đánh giá được sử dụng ở thời gian T1 để dự báo giá trị đặc tính chất lượng Q (các phép đo của các phép đánh giá trong sử dụng vận hành) tại thời điểm T2, thì lỗi dự báo {(dự báo Q(T2) – thực tế Q(T2)) / thực tế Q(T2)} có thể nằm trong dải lỗi dự báo cho phép.

Người đánh giá có thể dự báo sự thay đổi đặc tính chất lượng trong tương lai bằng cách sử dụng những phép đánh giá có khả năng dự báo này.

(3) Tính phân biệt

Một phép đánh giá phải có khả năng phân biệt giữa chất lượng phần mềm cao và chất lượng phần mềm thấp.

Người đánh giá có thể phân loại các thành phần phần mềm và chấm điểm các giá trị đặc tính chất lượng bằng cách sử dụng những phép đánh giá có khả năng phân biệt này.

A.3. Sử dụng các phép đánh giá cho ước lượng và dự báo

Ước lượng và dự báo các đặc tính chất lượng của sản phẩm phần mềm tại các giai đoạn trước là hai trong các ứng dụng có ích nhất của các phép đánh giá.

A.3.1. Dự báo đặc tính chất lượng bằng dữ liệu hiện thời

(a) Dự báo bằng phân tích hồi quy

Khi dự báo giá trị tương lai (hệ đo) của cùng đặc tính (thuộc tính) bằng cách sử dụng giá trị hiện thời (số liệu) của nó (thuộc tính), phân tích hồi quy là hữu ích khi dựa trên một bộ dữ liệu quan sát được trong một chu kỳ thời gian đủ lớn.

Ví dụ, giá trị của MTBF (Thời gian trung bình giữa các lần bị lỗi) thu được trong giai đoạn kiểm tra (các hoạt động) có thể được sử dụng để ước lượng MTBF trong giai đoạn vận hành.

(b) Dự đoán bằng phân tích tương quan

Khi dự báo giá trị tương lai (hệ đo) của một đặc tính (thuộc tính) bằng cách sử dụng giá trị đo hiện thời của các thuộc tính khác nhau, phân tích tương quan là hữu ích khi sử dụng một chức năng hợp lệ mà nó chỉ ra sự tương quan.

Ví dụ, sự phức tạp của các mô-đun trong suốt giai đoạn mã hóa có thể được sử dụng để dự báo thời gian hoặc nguồn lực yêu cầu cho việc sửa đổi chương trình và kiểm tra trong quá trình bảo trì.

A.3.2. Ước lượng các đặc tính chất lượng hiện tại dựa trên các sự việc hiện tại

(a) Ước lượng bằng các phân tích tương quan

Khi ước lượng giá trị hiện tại của các thuộc tính mà không thể đo trực tiếp, hoặc không có hệ đo nào có quan hệ chặt chẽ với hệ đo mục tiêu, thì việc phân tích tương quan là thực sự hữu ích.

Ví dụ, vì số lỗi còn lại trong sản phẩm phần mềm là không thể đo được, nó có thể được ước lượng bằng cách sử dụng số lượng và xu hướng các lỗi được phát hiện.

Những phép đánh giá sau được sử dụng để dự báo các thuộc tính không có khả năng đo trực tiếp phải được ước lượng như mô tả sau:

– Sử dụng các mô hình cho dự báo thuộc tính;

– Sử dụng công thức cho dự báo thuộc tính;

– Sử dụng các cơ sở kinh nghiệm cho dự báo thuộc tính;

– Sử dụng phương pháp căn chỉnh để dự đoán thuộc tính.

Những phép đánh giá này được sử dụng để dự báo các thuộc tính không thể đo trực tiếp được có thể được xác nhận như sau:

– Xác định các hệ đo thuộc tính có thể dự báo được;

– Xác định các phép đánh giá sẽ được sử dụng cho việc dự báo;

– Thực hiện phân tích thống kê dựa trên sự xác nhận;

– Ghi chép các kết quả;

– Lặp lại những việc trên một cách định kỳ.

A.4. Phát hiện độ lệch và không bình thường trong các phần tử dễ xảy ra vấn đề chất lượng

Các công cụ kiểm soát chất lượng sau đây có thể được sử dụng để phân tích độ lệch và không bình thường trong các thành phần hợp thành của sản phẩm phần mềm:

(a) Biểu đồ tiến trình (các mô-đun chức năng của phần mềm)

(b) Phân tích Pareto và các biểu đồ

(d) Biểu đồ chạy, biểu đồ tương quan và phân loại

(e) Biểu đồ lshikawa (dạng hình cá)

(f) Quản lý quá trình thống kê (các mô-đun của phần mềm)

(g) Tờ kiểm tra

Các công cụ ở trên có thể được sử dụng để nhận biết các vấn đề chất lượng từ dữ liệu thu được bằng cách áp dụng các phép đánh giá.

A.5. Hiển thị các kết quả đo

(a) Hiển thị các kết quả đánh giá đặc tính chất lượng

Có các biểu diễn đồ họa hữu ích để hiển thị các kết quả đánh giá chất lượng cho mỗi đặc tính chất lượng và đặc tính chất lượng nhỏ như: biểu đồ Radar, biểu đồ cột, biểu đồ đa biến, ma trận hiệu năng quan trọng (Importance Performance Matrix), …

(b) Hiển thị hệ đo

Có các biểu diễn đồ họa hữu ích để hiển thị như biểu đồ Parato, các biểu đồ xu thế, hoành đồ, biểu đồ tương quan,…

PHỤ LỤC B

(Tham khảo)

SỬ DỤNG CÁC PHÉP ĐÁNH GIÁ NGOÀI, TRONG VÀ CHẤT LƯỢNG SỬ DỤNG (VÍ DỤ KHUNG)

B.1. Giới thiệu

Ví dụ khung này là mô tả mức cao làm thế nào để mô hình chất lượng ISO/IEC 9126 và các phép đánh giá liên quan có thể được sử dụng trong suốt quá trình phát triển và triển khai phần mềm để đạt được sản phẩm chất lượng đáp ứng được các nhu cầu người sử dụng. Các khái niệm đưa ra trong ví dụ này có thể được triển khai dưới nhiều hình thức khác nhau cho khách hàng để phù hợp với cá nhân, tổ chức, hay dự án. Ví dụ này sử dụng các quá trình vòng đời quan trọng từ ISO/IEC 12207 như là một tham chiếu cho vòng đời phát triển phần mềm truyền thống và các bước quá trình đánh giá chất lượng từ TCVN 8707:2011 như là một tham chiếu cho quá trình đánh giá sản phẩm phần mềm truyền thống. Các khái niệm này có thể được ánh xạ tới các mô hình khác của các vòng đời sản phẩm phần mềm nếu người sử dụng mong muốn cũng như là hiểu các khái niệm này.

B.2. Tổng quan về quá trình phát triển và quá trình chất lượng

Bảng 28 mô tả mô hình ví dụ liên kết các hoạt động quá trình vòng đời phát triển phần mềm (hoạt động 1 tới hoạt động 8) tới các thực hiện chính của chúng và các mô hình liên quan để đo chất lượng của các thực hiện (ví dụ: chất lượng sử dụng, chất lượng ngoài, hoặc chất lượng trong).

Hàng 1 mô tả các hoạt động quá trình vòng đời phát triển phần mềm. (Các hoạt động này có thể thay đổi cho phù hợp với các nhu cầu riêng). Hàng 2 mô tả liệu phép đo thực tế hoặc dự báo có thể được cho các loại hệ đo (tức là chất lượng sử dụng, chất lượng ngoài hoặc chất lượng trong) hay không. Hàng 3 mô tả các thực hiện chính có thể sẽ được đo cho chất lượng và Hàng 4 mô tả các phép đánh giá có thể được áp dụng trên mỗi thực hiện tại mỗi hoạt động của quá trình.

Bảng 28 – Mô hình đánh giá chất lượng

	Hoạt động 1	Hoạt động 2	Hoạt động 3	Hoạt động 4	Hoạt động 5	Hoạt động 6	Hoạt động 7	Hoạt động 8
Giai đoạn	Phân tích yêu cầu (Phần mềm và các hệ thống)	Thiết kế kiến trúc (Phần mềm và các hệ thống)	Thiết kế chi tiết phần mềm	Lập trình và kiểm tra phần mềm	Tích hợp phần mềm và kiểm tra chất lượng phần mềm	Tích hợp hệ thống và kiểm tra chất lượng hệ	Cài đặt phần mềm	Hỗ trợ tiếp nhận phần mềm
Tham chiếu chuỗi mô hình 9126	Chất lượng người sử dụng yêu cầu, Chất lượng trong yêu cầu, Chất lượng ngoài yêu cầu	Chất lượng sử dụng dự báo, Chất lượng ngoài dự báo, Chất lượng trong đo được	Chất lượng sử dụng dự báo, Chất lượng ngoài dự báo, Chất lượng trong đo được	Chất lượng sử dụng dự báo, Chất lượng ngoài đo được, Chất lượng ngoài dự báo, Chất lượng trong đo được	Chất lượng sử dụng dự báo, Chất lượng ngoài đo được, Chất lượng ngoài dự báo, Chất lượng trong đo được	Chất lượng sử dụng dự báo, Chất lượng ngoài đo được, Chất lượng trong đo được	Chất lượng sử dụng dự báo, Chất lượng ngoài đo được, Chất lượng trong đo được	Chất lượng sử dụng đo được, Chất lượng ngoài đo được, Chất lượng trong đo được
Các thực hiện chính của hoạt động	Các yêu cầu chất lượng người sử dụng (xác định), Các yêu cầu chất lượng ngoài (xác định), Các yêu cầu chất lượng trong (xác định)	Thiết kế cấu trúc phần mềm/ hệ thống	Thiết kế chi tiết phần mềm	Mã nguồn phần mềm, Các kết quả kiểm tra	Sản phẩm phần mềm, Các kết quả kiểm tra	Hệ thống tích hợp, Các kết quả kiểm tra	Hệ thống đã cài đặt	Sản phẩm phần mềm thu được
Các phép đánh giá sử dụng để đo	Các phép đánh giá trong (các phép đánh giá ngoài có thể được áp dụng để xác nhận đặc tả)	Các phép đánh giá trong	Các phép đánh giá trong	Các phép đánh giá trong, Các phép đánh giá ngoài	Các phép đánh giá trong, Các phép đánh giá ngoài	Các phép đánh giá trong, Các phép đánh giá ngoài	Các phép đánh giá trong, Các phép đánh giá ngoài	Các phép đánh giá khi sử dụng, Các phép đánh giá trong, Các phép đánh giá ngoài

B.3. Các bước tiếp cận chất lượng

B.3.1. Tổng quan

Việc đánh giá chất lượng trong suốt vòng đời phát triển được chia thành các bước sau. Bước 1 được hoàn thành trong hoạt động phân tích yêu cầu. Từ bước 2 tới bước 5 phải được lặp lại trong mỗi hoạt động quá trình được xác định ở trên.

B.3.2. Bước 1 – Xác định các yêu cầu chất lượng

Với mỗi đặc tính chất lượng và các đặc tính chất lượng nhỏ được định nghĩa trong mô hình chất lượng xác định trọng số nhu cầu người sử dụng bằng hai ví dụ trong Bảng 29 cho mỗi loại phép đo. (Chất lượng sử dụng, chất lượng ngoài và chất lượng trong). Xác định các trọng số liên quan sẽ cho phép người đánh giá tập trung nguồn lực đánh giá những đặc tính nhỏ quan trọng nhất.

Bảng 29 – Các tiêu chí theo nhu cầu người sử dụng và trọng số

Chất lượng sử dụng
	Đặc tính	Trọng số (Cao/trung bình/thấp) (High/Medium/Low)
	Tính hiệu quả	H
	Tính năng suất	H
	Tính an toàn	L
	Tính thỏa mãn	M

Chất lượng ngoài và trong
Đặc tính	Đặc tính nhỏ	Trọng số (Cao/trung bình/thấp) (High/Medium/Low)
Tính chức năng	Tính phù hợp	H
	Độ chính xác	H
	Khả năng tương tác	L
	Tính an toàn	L
	Tính tuân thủ	M
Tính tin cậy	Tính hoàn thiện	L
	Khả năng chịu lỗi	L
	Khả năng phục hồi	H
	Tính tuân thủ	H
Tính khả dụng	Tính dễ hiểu	M
	Tính dễ học	L
	Khả năng vận hành	H
	Tính hấp dẫn	M
	Tính tuân thủ	H
Tính hiệu quả	Thời gian xử lý	H
	Sử dụng tài nguyên	H
	Tính tuân thủ	H
Khả năng bảo trì (Maintainability)	Khả năng phân tích	H
	Khả năng thay đổi được	M
	Tính ổn định	L
	Khả năng kiểm tra được	M
	Tính tuân thủ	H
Tính khả chuyển	Khả năng thích nghi	H
	Khả năng cài đặt	L
	Tính cùng tồn tại	H
	Khả năng thay thế	M
	Tính tuân thủ	H

CHÚ THÍCH: Các trọng số có thể được biểu diễn bằng các mức độ Cao/ Trung bình/Thấp hoặc sử dụng tỷ lệ theo số từ 1-9 (ví dụ: 1-3 = Thấp, 4-6 = Trung bình; 7-9 = Cao)

B.3.3. Bước 2 – Đặc tả đánh giá

Bước này được sử dụng trong mọi hoạt động phát triển phần mềm.

Với mỗi đặc tính chất lượng nhỏ được định nghĩa trong mô hình chất lượng xác định các phép đánh giá được áp dụng và các mức độ yêu cầu để đạt được các yêu cầu của người sử dụng thiết lập trong bước 1 và được ghi lại như được chỉ ra trong ví dụ ở Bảng 30.

Đầu vào cơ bản và các hướng dẫn tạo lập nội dung có thể đạt được từ ví dụ trong Bảng 28, nó trình bày những vấn đề được đo trong giai đoạn này của vòng đời phát triển.

CHÚ THÍCH: Nếu có thể, một số dòng trong bảng có thể bỏ trống trong một số hoạt động nhất định của vòng đời phát triển, bởi vì không thể đo tất cả các đặc tính nhỏ trong quá trình phát triển.

Bảng 30 – Các bảng đo chất lượng

Phân loại phép đo chất lượng sử dụng
	Đặc tính	Các phép đánh giá	Mức độ yêu cầu	Kết quả đánh
	Tính hiệu quả
	Tính năng suất
	Tính an toàn
	Tính thỏa mãn

Phân loại phép đo chất lượng ngoài
Đặc tính	Đặc tính nhỏ	Các phép đánh giá	Mức độ yêu cầu	Kết quả đánh giá thực tế
Chức năng	Tính phù hợp
	Độ chính xác
	Khả năng tương tác
	Tính an toàn
	Tính tuân thủ
Tính tin cậy	Tính hoàn thiện
	Khả năng chịu lỗi
	Khả năng phục hồi
	Tính tuân thủ
Tính khả dụng	Tính dễ hiểu
	Tính dễ học
	Khả năng vận hành
	Tính hấp dẫn
	Tính tuân thủ
Tính hiệu quả	Thời gian xử lý
	Sử dụng tài nguyên
	Tính tuân thủ
Khả năng bảo trì	Khả năng phân tích
	Khả năng thay đổi được
	Tính ổn định
	Khả năng kiểm tra được
	Tính tuân thủ
Tính khả chuyển	Khả năng thích nghi
	Khả năng cài đặt
	Tính cùng tồn tại
	Khả năng thay thế
	Tính tuân thủ

Phân loại phép đo chất lượng trong
Đặc tính	Đặc tính nhỏ	Các phép giá	Mức độ yêu cầu	Kết quả đánh giá thực tế
Chức năng	Tính phù hợp
	Độ chính xác
	Khả năng tương tác
	Tính an toàn
	Tính tuân thủ
Tính tin cậy	Tính hoàn thiện
	Khả năng chịu lỗi
	Khả năng phục hồi
	Tính tuân thủ
Tính khả dụng	Tính dễ hiểu
	Tính dễ học
	Khả năng vận hành
	Tính hấp dẫn
	Tính tuân thủ
Tính hiệu quả	Thời gian xử lý
	Sử dụng tài nguyên
	Tính tuân thủ
Khả năng bảo trì	Khả năng phân tích
	Khả năng thay đổi được
	Tính ổn định
	Khả năng kiểm tra được
	Tính tuân thủ
Tính khả chuyển	Khả năng thích nghi
	Khả năng cài đặt
	Tính cùng tồn tại
	Khả năng thay thế
	Tính tuân thủ

B.3.4. Bước 3 – Thiết kế đánh giá

Bước này được áp dụng trong mọi hoạt động của quá trình phát triển.

Phát triển một kế hoạch đo (tương tự như ví dụng trong Bảng 31) bao gồm các sản phẩm được sử dụng như đầu vào cho quá trình đo và các phép đánh giá được áp dụng.

Bảng 31 – Kế hoạch đánh giá

Đặc tính nhỏ	Sản phẩm được đánh giá	Các phép đánh giá trong được áp dụng	Các phép đánh giá ngoài được áp dụng	Các phép đánh giá sử dụng được áp dụng
1. Tính phù hợp	1.	1.	1.	Không áp dụng
	2.	2.	2.
	3.	3.	3.
2. Tính thỏa mãn	1.	Không áp dụng	Không áp dụng	1.
	2.			2.
	3.			3.
3.
4.
5.
6.

B.3.5. Bước 4 – Thực hiện đánh giá

Bước này áp dụng trong mọi hoạt động của quá trình phát triển.

Thực hiện kế hoạch đánh giá và hoàn thành các cột đưa ra trong ví dụ tại Bảng 30. Tiêu chuẩn ISO/IEC 14598 phải được sử dụng như là một hướng dẫn cho việc lập kế hoạch và thực hiện quá trình

B.3.6. Bước 5 – Phản hồi tới tổ chức

Bước này áp dụng trong mọi hoạt động của quá trình phát triển.

Khi tất các phép đo được hoàn thành ánh xạ kết quả vào Bảng 28 và ghi chép các kết luận dưới dạng báo cáo. Đồng thời cũng xác định các lĩnh vực cụ thể yêu cầu cải tiến chất lượng cho sản phẩm để đáp ứng các nhu cầu của người sử dụng.

PHỤ LỤC C

(Tham khảo)

GIẢI THÍCH CHI TIẾT CÁC LOẠI THANG ĐÁNH GIÁ VÀ CÁC LOẠI PHÉP ĐO

C.1. Các loại thang đánh giá

Một trong các loại thang đánh giá sau phải được xác định cho mỗi hệ đo, khi người sử dụng các phép đánh giá có kết quả của phép đo và sử dụng hệ đo để tính toán hoặc so sánh. Giá trị trung bình, tỷ lệ hay các giá trị khác nhau có thể không có ý nghĩa cho một vài hệ đo. Các loại thang đánh giá là: thang danh nghĩa, thang thứ tự, thang khoảng cách, thang tỷ lệ, và thang tuyệt đối. Thang đánh giá luôn được xác định M’ =F(M); trong đó F là một hàm được thừa nhận của M. Đồng thời mô tả của mỗi loại thang đo chứa mô tả một hàm được thừa nhận (nếu M là một phép đánh giá thì M’ =F(M) cũng là một phép đánh giá).

(a) Thang danh nghĩa

M’ = F(M) trong đó F là hàm ánh xạ một-một.

Thang này bao gồm việc phân loại, ví dụ, các loại lỗi phần mềm (dữ liệu, điều khiển,…). Giá trị trung bình chỉ có ý nghĩa nếu nó được tính với tần suất của chung một loại. Tỷ số có ý nghĩa chỉ khi nó được tính với cùng tần suất của mỗi loại được ánh xạ. Do đó, tỷ số và giá trị trung bình có thể được sử dụng để thể hiện sự khác nhau về tần suất của cùng một loại giữa các trường hợp sớm và muộn hoặc hai trường hợp tương tự. Mặt khác, chúng có thể được sử dụng để so sánh tần suất của mỗi loại khác nhau tương ứng.

(b) Thang thứ tự

M’ = F(M) trong đó F là bất kỳ hàm đơn điệu tăng được ánh xạ như sau, M(x) >= M(y) thì M'(x) >=M‘(y).

Thang này bao gồm việc sắp xếp, ví dụ, lỗi phần mềm theo thứ tự nghiêm trọng (không đáng kể, đáng kể, nghiêm trọng, thảm họa). Giá trị trung bình chỉ có ý nghĩa chỉ khi nó được tính với tần suất của thứ tự ánh xạ giống nhau. Tỷ số chỉ có ý nghĩa khi nó được tính với tần suất của mỗi thứ tự ánh xạ riêng. Do đó, tỷ số và giá trị trung bình có thể được sử dụng để mô tả sự khác nhau về tần suất của cùng một thứ tự giữa các trường hợp sớm hoặc muộn hoặc giữa hai trường hợp tương tự. Trong trường hợp khác, chúng có thể được sử dụng để so sánh tần suất của từng thứ tự.

Ví dụ. Kết quả kiểm tra ở trường học (xuất sắc, giỏi, khá, trung bình).

Ý nghĩa. Mỗi trường hợp sẽ phụ thuộc vào vị trí của nó theo thứ tự, ví dụ ở giữa.

(c) Thang khoảng cách

M’ = aM + b (a>0)

Thang này bao gồm các thang tỷ lệ được sắp xếp trong đó sự khác nhau giữa hai hệ đo có ý nghĩa thực nghiệm. Tuy nhiên tỷ lệ của hai hệ đo trong một khoảng thang có thể không có cùng ý nghĩa thực nghiệm.

Ví dụ. Nhiệt độ (độ C, độ F, độ K), khác nhau giữa thời gian tính toán thực tế và thời gian dự báo.

Ý nghĩa: Giá trị trung bình và bất cứ cái gì phụ thuộc vào thứ tự.

(d) Thang tỷ lệ

M’ – aM (a>0)

Thang này bao gồm các thang tỷ lệ được sắp xếp trong đó sự khác nhau giữa hai hệ đo và là tỷ lệ của hai hệ đo có cùng ý nghĩa thực nghiệm. Giá trị trung bình và tỷ số có ý nghĩa tương ứng và chúng mang lại ý nghĩa thực tế cho các giá trị.

Ví dụ: Chiều dài, khối lượng, thời gian, kích cỡ, số đếm.

Ý nghĩa: Trung bình nhân, phần trăm.

(e) Thang tuyệt đối

M’ = M chúng có thể được đo bởi chỉ một cách.

Bất cứ một trạng thái nào liên quan tới hệ đo đều có ý nghĩa. Ví dụ, kết quả của phép chia một hệ đo loại thang tỷ lệ bởi một hệ đo loại thang đo tỷ lệ khác có đơn vị đo giống nhau là thang tuyệt đối. Phép đo loại thang tuyệt đối trong thực tế là không có đơn vị.

Ví dụ: Số dòng của đoạn mã có giải thích được chia cho tổng các dòng mã lệnh.

Ý nghĩa: Bất kỳ cái gì.

C.2. Các loại phép đo

C.2.1. Tổng quan

Để thiết kế một thủ tục thu thập dữ liệu, giải thích ý nghĩa, chuẩn hóa các phép đo để so sánh, người sử dụng các phép đánh giá phải xác định và xem xét các loại hệ đo của phép đo được áp dụng bởi phép đánh giá.

C.2.2. Loại đo kích thước

Tổng quan

Một hệ đo loại này thể hiện kích thước riêng của phần mềm theo những đòi hỏi để đánh giá trong phạm vi xác định của nó.

CHÚ THÍCH: Phần mềm có thể có nhiều dạng biểu diễn kích cỡ (giống như bất kỳ thực thể nào có thể được đo bởi nhiều hơn một chiều – khối lượng, thể tích, diện tích bề mặt,…).

Chuẩn hóa các hệ đo khác với phép đo kích thước có thể đưa ra các giá trị so sánh được theo một loại đơn vị kích thước. Phép đo kích thước mô tả ở dưới có thể được sử dụng cho phép đo chất lượng phần mềm.

Loại quy mô chức năng

Quy mô chức năng là một ví dụ trong một loại quy mô (một chiều) mà phần mềm có thể có. Bất kỳ một ví dụ nào của phần mềm có thể có nhiều hơn một quy mô chức năng phụ thuộc vào, ví dụ:

a) Mục đích của phép đánh giá kích thước phần mềm (Nó ảnh hưởng tới phạm vi của phần mềm được đo);
b) Các phương pháp đánh giá quy mô chức năng cụ thể được sử dụng (Nó sẽ thay đổi các đơn vị và thang).

Định nghĩa các khái niệm và quá trình áp dụng phương pháp đo quy mô chức năng (phương pháp FSM) được cung cấp trong tiêu chuẩn ISO/ IEC 14143-1.

Để sử dụng các phép đo quy mô chức năng cho tiêu chuẩn hóa cần đảm bảo rằng cùng một phương pháp đo quy mô chức năng giống nhau được sử dụng và các phần mềm khác nhau được so sánh được đo với cùng mục đích và bởi vậy có quy mô có thể so sánh.

Mặc dù các quy mô sau thường cho rằng biểu diễn quy mô chức năng, nó không được bảo đảm chúng tương đương với quy mô chức năng thu được từ việc áp dụng phương pháp FSM tuân thủ theo tiêu chuẩn ISO / IEC 14143-1. Tuy nhiên, chúng được sử dụng rộng rãi trong phát triển phần mềm:

Số trang;
Số màn hình;
Số tệp tin hoặc tập dữ liệu được xử lý;
Số các yêu cầu chức năng được mô tả trong đặc tả yêu cầu người sử dụng.

Loại kích thước chương trình

Trong mục này, thuật ngữ “lập trình” biểu diễn kết quả hành động, và thuật ngữ “ngôn ngữ” biểu diễn loại mô tả sử dụng.

Kích thước chương trình nguồn

Ngôn ngữ lập trình phải được diễn giải và nó phải được cung cấp sao cho nó không được thực hiện, ví dụ như các dòng giải thích, được xử lý. Các phép đo dưới đây thường được sử dụng:

Các lệnh nguồn không phải chú thích (NCSS)

Các lệnh nguồn không phải chú thích (NCSS) bao gồm các lệnh thực hiện và các lệnh khai báo dữ liệu với các lệnh nguồn lô-gic.

CHÚ THÍCH:

Kích thước chương trình mới.

Người phát triển có thể sử dụng kích thước chương trình phát triển mới để thể hiện kích thước phát triển và bảo trì sản phẩm làm việc.

Thay đổi kích thước chương trình.

Người phát triển có thể sử dụng kích thước chương trình thay đổi để thể hiện kích thước phần mềm chứa các thành phần được sửa đổi.

Kích thước chương trình máy tính.

Ví dụ hàm kích thước chương trình máy tính là các dòng mã mới +0.2 x số dòng của mã nguồn trong các thành phần được sửa đổi.

Có thể cần phân biệt các loại lệnh của mã nguồn chi tiết hơn như sau:

– Loại câu lệnh

Lệnh nguồn logic (LSS). LSS đo số lượng các chỉ dẫn phần mềm. Lệnh này không quan tâm đến mối quan hệ tới các dòng và độc lập với định dạng vật lý mà nó xuất hiện.

Lệnh nguồn vật lý (PSS). PSS đo số lượng các dòng mã lệnh của phần mềm.

– Thuộc tính câu lệnh

Các câu lệnh thực thi;

Các câu lệnh khai báo dữ liệu;

Các câu lệnh hướng dẫn biên dịch;

Các câu lệnh chú thích mã nguồn;

– Nguồn gốc

Các câu nguồn được sửa đổi;

Các câu lệnh nguồn được thêm vào;

Các câu lệnh nguồn được loại bỏ;

+ Các câu lệnh nguồn được phát triển mới (= các câu lệnh được thêm + các câu lệnh được sửa đổi);

+ Các câu lệnh được tái sử dụng (= các câu lệnh gốc – câu lệnh được sửa đổi – các câu lệnh được loại bỏ).

Kích thước đếm số từ chương trình

Phép đo này có thể được tính toán bằng cách sử dụng phép đo Halstead:

Từ vựng chương trình = n1+n2; Độ dài chương trình được quan sát = N1+N2, trong đó:

– n1: là số các từ toán tử phân biệt được chuẩn bị và dự trữ bởi ngôn ngữ chương trình trong mã nguồn chương trình;

– n2: là số các từ toán hạng phân biệt được xác định bởi người lập trình trong một mã nguồn chương trình;

– N1: là số các sự kiện xuất hiện của các toán tử phân biệt trong một mã nguồn chương trình;

– N2: là số các sự kiện xuất hiện của các toán hạng phân biệt trong một mã nguồn chương trình.

Số các đoạn mã chương trình (Mô-đun)

Phép đo này đếm số đối tượng có khả năng thực thi độc lập như là các đoạn chương trình.

Loại đo tài nguyên sử dụng

Loại phép đo này xác định tài nguyên được sử dụng bằng cách vận hành phần mềm đang được đánh giá. Ví dụ như:

a) Dung lượng bộ nhớ, ví dụ, dung lượng đĩa hoặc bộ nhớ tiêu tốn tạm thời hoặc thường xuyên khi thực thi phần mềm;
b) Tải vào ra (I/O), ví dụ, lượng lưu lượng dữ liệu truyền thông (có ý nghĩa cho các công cụ dự phòng trên mạng);
c) Tải CPU, ví dụ, phần trăm tập lệnh CPU tiêu tốn trên mỗi giây (Phép đo này có ý nghĩa cho việc đánh giá sử dụng CPU và hiệu quả của việc xử lý phân tán trong phần mềm đa phân luồng chạy trên các hệ thống đồng thời/ song song);
d) Các bản ghi tệp tin và dữ liệu, ví dụ, độ dài tính theo byte của tệp tin hoặc bản ghi.
e) Tài liệu, ví dụ, như số trang tài liệu.

Một điều quan trọng cần ghi nhận là các giá trị cực đại, cực tiểu và trung bình cũng như các chu kỳ thời gian và số lần quan sát được thực hiện.

Loại thủ tục vận hành từng bước xác định

Loại này xác định các bước cố định của các thủ tục được xác định trong đặc tả thiết kế giao diện hoặc trong hướng dẫn người sử dụng.

Giá trị đo có thể khác nhau phụ thuộc vào các loại mô tả được sử dụng cho việc đo, như sơ đồ hoặc lời văn biểu diễn thủ tục vận hành người sử dụng.

C.2.3. Loại đo thời gian

Tổng quan

Người sử dụng các phép đánh giá của loại đo thời gian phải ghi nhận các chu kỳ thời gian, số lượng vị trí đã được kiểm tra và bao nhiêu người sử dụng tham gia đo.

Có nhiều cách thực hiện mà trong đó thời gian có thể được đo như là một đơn vị, như những ví dụ sau đây cho thấy.

a) Đơn vị thời gian thực

Đây là thời gian vật lý: tức là giây, phút hoặc giờ. Đơn vị này thường được sử dụng để mô tả thời gian xử lý nhiệm vụ của phần mềm thời gian thực.

b) Đơn vị thời gian máy tính

Đây là thời gian xung nhịp của bộ vi xử lý máy tính: như giây, phút hoặc giờ theo thời gian CPU.

c) Đơn vị thời gian theo lịch trình làm việc

Bao gồm giờ làm việc, ngày làm việc, tháng hoặc năm.

d) Đơn vị thời gian thành phần

Khi có nhiều vị trí, thời gian thành phần chỉ rõ vị trí riêng và nó là một sự tích lũy thời gian riêng tại mỗi vị trí. Đơn vị này thường được sử dụng để mô tả tính tin cậy của các phân tử, ví dụ như tỷ lệ lỗi của các phần tử.

e) Đơn vị thời gian hệ thống

Khi có nhiều vị trí, thời gian hệ thống không xác định cho các vị trí riêng biệt mà xác định cho tất cả các vị trí đang chạy như là một hệ thống đồng nhất. Đơn vị này thường xuyên được sử dụng để mô tả tính tin cậy, ví dụ như tỷ lệ lỗi hệ thống.

Loại thời gian vận hành hệ thống

Loại thời gian vận hành hệ thống cung cấp cơ sở cho việc đo tính hiệu dụng của phần mềm. Thời gian này chủ yếu được sử dụng cho các đánh giá tính tin cậy. Nó phải được chỉ rõ liệu phần mềm đang hoạt động liên tục hay gián đoạn. Nếu phần mềm vận hành không liên tục, nó phải được đảm bảo rằng thời gian đo được thực hiện trong các chu kỳ thời gian mà phần mềm đang hoạt động (điều này đương nhiên được mở rộng cho vận hành liên tục).

a) Thời gian thực hiện

Khi việc sử dụng phần mềm là không đổi, ví dụ khi vận hành hệ thống với cùng một thời lượng thời gian trong mỗi tuần.

b) Thời gian khởi động máy

Cho thời gian thực, phần mềm nhúng hoặc phần mềm vận hành hệ thống được sử dụng hoàn toàn trong suốt thời gian hệ thống hoạt động.

c) Thời gian chuẩn hóa máy

Như trong thời gian “khởi động máy”, nhưng đưa dữ liệu từ một số máy có thời gian khởi động khác nhau và áp dụng một hệ số điều chỉnh.

Loại thời gian thực thi

Loại thời gian thực thi là thời gian cần thiết để thực thi phần mềm tới khi hoàn thành một nhiệm vụ cụ thể. Việc phân bổ một loạt các thực thi phải được phân tích và giá trị trung bình, vi sai hoặc giá trị cực đại phải được tính toán. Việc thực thi trong các điều kiện cụ thể, đặc biệt trong điều kiện quá tải phải được kiểm tra. Loại thời gian thực thi được sử dụng chủ yếu cho việc đánh giá tính hiệu quả.

Loại thời gian người sử dụng

Loại thời gian người sử dụng được đo trên chu kỳ thời gian sử dụng bởi những người sử dụng cá nhân để hoàn thành nhiệm vụ bằng cách vận hành phần mềm. Sau đây là một vài ví dụ:

a) Thời gian phiên

Đo thời gian từ khi bắt đầu tới khi kết thúc phiên. Nó hữu ích, ví dụ như, cho mô tả hoạt động của người sử dụng sử dụng dịch vụ hệ thống ngân hàng tại nhà. Đối với chương trình tương tác mà thời gian rỗi không cần để ý hoặc các vấn đề tính khả dụng tương tác chỉ được xem xét.

b) Thời gian thực hiện nhiệm vụ

Thời gian tiêu tốn cho người sử dụng cá nhân vận hành phần mềm để hoàn thành một nhiệm vụ. Thời điểm bắt đầu và kết thúc phải được xác định rõ ràng.

c) Thời gian người sử dụng

Thời gian sử dụng phần mềm của người sử dụng cá nhân tính từ thời điểm bắt đầu tới điểm hiện tại. (Tính xấp xỉ, số lượng thời gian hoặc ngày người sử dụng sử dụng phần mềm từ khi bắt đầu).

Loại nguồn lực

Loại nguồn lực là thời gian hữu ích liên kết với nhiệm vụ dự án cụ thể.

a) Nguồn lực cá nhân

Là thời gian hữu ích cần thiết cho một cá nhân là người phát triển, bảo trì hoặc người vận hành làm việc để hoàn thành một nhiệm vụ cụ thể. Nguồn lực cá nhân được tính theo số giờ có ích trên ngày.

b) Nguồn lực nhiệm vụ

Nguồn lực nhiệm vụ là giá trị tích lũy của tất cả các thành viên dự án cụ thể: người phát triển, người bảo trì, người vận hành, người sử dụng hoặc các người khác tham gia làm việc để hoàn thành một nhiệm vụ cụ thể.

Loại khoảng thời gian giữa các sự kiện

Loại phép đo này là khoảng thời gian giữa một sự kiện và một sự kiện tiếp theo trong chu kỳ quan sát. Tần suất của chu kỳ thời gian quan sát có thể được sử dụng thay cho phép đo này. Nó hay được dùng để mô tả thời gian giữa các lần xảy ra lỗi liên tiếp.

C.2.4. Loại phép đo đếm số lượng

Nếu các đặc tính của tài liệu của sản phẩm phần mềm là đếm được, chúng là loại đếm tĩnh. Nếu các sự kiện hoặc hành động của con người là đếm được, chúng là loại đếm động.

Loại số lượng lỗi phát hiện

Phép đo đếm số lỗi phát hiện được trong suốt quá trình soát xét, kiểm tra, khắc phục, vận hành hoặc bảo trì. Các mức độ an toàn có thể được sử dụng để phân loại chúng và đánh giá ảnh hưởng của lỗi.

Loại số lượng độ phức tạp cấu trúc chương trình

Phép đo đếm sự phức tạp cấu trúc chương trình. Ví dụ như là số đường dẫn riêng biệt hoặc số đo McCabe.

Loại số lượng không nhất quán phát hiện được

Phép đo này đếm các mục không nhất quán được tìm thấy. Chúng được chuẩn bị cho việc điều tra.

a) Số mục không tuân thủ

Ví dụ:

– Tuân thủ với các mục xác định của các đặc tả kỹ thuật yêu cầu;

– Tuân thủ với các quy tắc, quy định hoặc tiêu chuẩn;

– Tuân thủ với các giao thức, định dạng dữ liệu, định dạng thiết bị lưu trữ, các mã ký tự.

b) Số trường hợp không đáp ứng mong muốn người sử dụng

Phép đo này đếm danh sách các điểm thỏa mãn và không thỏa mãn thể hiện khoảng cách giữa mong muốn chính đáng của người sử dụng và hiệu quả hoạt động của sản phẩm phần mềm.

Phép đo này sử dụng các câu hỏi được trả lời bởi các người kiểm tra, khách hàng, người vận hành hoặc người sử dụng cuối khi các thiếu sót được phát hiện.

Sau đây là các ví dụ:

– Chức năng sẵn sàng hoặc không sẵn sàng;

– Chức năng hoạt động hiệu quả hoặc không;

– Chức năng hoạt động phù hợp với mục đích sử dụng riêng của người sử dụng hay không;

– Chức năng theo đúng mong muốn, cần thiết hay không.

Loại số các thay đổi

Loại này xác định các mục cấu hình phần mềm được phát hiện đã có sửa đổi. Ví dụ số dòng mã lệnh được thay đổi.

Loại số các lỗi được phát hiện

Phép đo này đếm số lỗi phát hiện được trong quá trình phát triển, kiểm tra, vận hành hoặc bảo trì sản phẩm. Mức độ an toàn có thể được sử dụng để phân loại chúng và đánh giá mức độ ảnh hưởng của lỗi.

Loại số lần thử

Phép đo này đếm số lần cố gắng khắc phục hỏng hóc hoặc lỗi. Ví dụ, trong khi soát xét, kiểm tra và bảo trì.

Loại thao tác trong thủ tục vận hành của con người

Phép đo này đếm số lần thao tác của các hoạt động của người sử dụng như các bước động của thủ tục khi người sử dụng vận hành phần mềm tương tác. Phép đo này định lượng tính khả dụng trong lao động cũng như nguồn lực sử dụng. Do đó nó được sử dụng trong việc đánh giá tính khả dụng. Các ví dụ là số lần thao tác để thực hiện nhiệm vụ, số lần chuyển động của mắt,…

Loại điểm số

Loại này xác định số điểm hoặc các kết quả của phép tính đại số. Điểm số có thể bao gồm số đếm hoặc tính các trọng số được kiểm tra trên bảng liệt kê. Ví dụ: điểm số của bảng liệt kê, điểm số của các câu hỏi, phương pháp Delphi,…

THƯ MỤC TÀI LIỆU THAM KHẢO

[1] ISO/IEC 9126-1: 2001 – Software engineering – Product quality – Part 1: Quality model.

[2] ISO/IEC 9126-2: 2002 – Software engineering – Product quality – Part 2: External metrics.

MỤC LỤC

1. Phạm vi áp dụng
2. Tài liệu viện dẫn
3. Thuật ngữ và định nghĩa

3.1. Chất lượng

3.2. Phần mềm và người sử dụng

3.3. Phép đo

4. Ký hiệu và thuật ngữ
5. Sử dụng các phép đánh giá phần mềm
6. Đọc và sử dụng các bảng phép đánh giá
7. Bảng các phép đánh giá

7.1. Các phép đánh giá chức năng

7.1.1. Các phép đánh giá tính phù hợp

7.1.2. Các phép đánh giá tính chính xác

7.1.3. Các phép đánh giá khả năng tương tác

7.1.4. Các phép đánh giá tính an toàn

7.1.5. Các phép đánh giá tuân thủ của tính năng

7.2. Các phép đánh giá tính tin cậy

7.2.1. Các phép đánh giá tính kỹ lưỡng

7.2.2. Các phép đánh giá khả năng chịu lỗi

7.2.3. Bảng các phép đánh giá khả năng phục hồi

7.2.4. Các phép đánh giá tuân thủ của tính tin cậy

7.3. Các phép đánh giá tính khả dụng

7.3.1. Các phép đánh giá tính dễ hiểu

7.3.2. Các phép đánh giá khả năng dễ học

7.3.3. Các phép đánh giá khả năng dễ vận hành

7.3.4. Các phép đánh giá tính hấp dẫn

7.3.5. Các phép đánh giá tính tuân thủ khả dụng

7.4. Các phép đánh giá tính hiệu quả

7.4.1. Các phép đánh giá thời gian hoạt động

7.4.2. Các phép đánh giá sử dụng tài nguyên

7.4 3. Các phép đánh giá tuân thủ của tính hiệu quả

7.5. Các phép đánh giá khả năng bảo trì

7.5.1. Các phép đánh giá khả năng phân tích

7.5.2. Các phép đánh giá khả năng thay đổi được

7.5.3. Các phép đánh giá tính ổn định

7.5.4. Các phép đánh giá khả năng kiểm tra

7.5.5. Các phép đánh giá tuân thủ của khả năng bảo trì

7 6. Các phép đánh giá tính khả chuyển

7.6.1. Khả năng tương thích

7.6.2. Các phép đánh giá khả năng cài đặt phần mềm

7.6.3. Các phép đánh giá khả năng cùng tồn tại

7.6 4. Các phép đánh giá khả năng thay thế

7.6.5. Các phép đánh giá tuân thủ của tính khả chuyển

Phụ lục A (Tham khảo) Các vấn đề cần quan tâm khi sử dụng các phép đánh giá

A.1. Làm sáng tỏ các phép đánh giá

A.1.1. Sự khác nhau tiềm năng giữa kiểm tra và ngữ cảnh hoạt động sử dụng

A.1.2. Các vấn đề ảnh hưởng tới tính xác thực của các kết quả

A.1 3. Sự cân bằng của các tài nguyên đo kiểm

A.1.4. Sự chính xác của các đặc tính kỹ thuật

A.2. Xác nhận các phép đánh giá

A.2.1. Thuộc tính mong muốn cho các phép đánh giá

A.2.2. Chứng minh tính xác thực của các phép đánh giá

A.3. Sử dụng các phép đánh giá cho ước lượng và dự báo

A.3.1. Dự báo đặc tính chất lượng bằng dữ liệu hiện thời

A.3.2. Ước lượng các đặc tính chất lượng hiện tại dựa trên các sự việc hiện tại

A.4. Phát hiện độ lệch và không bình thường trong các phần tử dễ xảy ra vấn đề chất lượng

A.5. Hiển thị các kết quả đo

Phụ lục B (Tham khảo) Sử dụng các phép đánh giá ngoài, trong và chất lượng sử dụng (ví dụ khung)

B.1. Giới thiệu

B.2. Tổng quan về quá trình phát triển và quá trình chất lượng

B.3. Các bước tiếp cận chất lượng

B.3.1. Tổng quan

B.3.2. Bước 1 – Xác định các yêu cầu chất lượng

B.3.3. Bước 2 – Đặc tả đánh giá

B.3.4. Bước 3 – Thiết kế đánh giá

B.3.5. Bước 4 – Thực hiện đánh giá

B.3.6. Bước 5 – Phản hồi tới tổ chức

Phụ lục C (Tham khảo) Giải thích chi tiết các loại thang đánh giá và các loại phép đo

C.1. Các loại thang đánh giá

C.2. Các loại phép đo

C.2.1. Tổng quan

C.2.2. Loại đo kích thước

C.2.3. Loại đo thời gian

C.2.4. Loại phép đo đếm số lượng

Thư mục tài liệu tham khảo

TIÊU CHUẨN QUỐC GIA TCVN 8702:2011 VỀ CÔNG NGHỆ THÔNG TIN – CHẤT LƯỢNG SẢN PHẨM PHẦN MỀM – PHẦN 1: CÁC PHÉP ĐÁNH GIÁ NGOÀI
Số, ký hiệu văn bản	TCVN8702:2011	Ngày hiệu lực
Loại văn bản	Tiêu chuẩn Việt Nam	Ngày đăng công báo
Lĩnh vực	Lĩnh vực khác	Ngày ban hành
Cơ quan ban hành		Tình trạng	Còn hiệu lực

Các văn bản liên kết

Văn bản được hướng dẫn		Văn bản hướng dẫn
Văn bản được hợp nhất		Văn bản hợp nhất
Văn bản bị sửa đổi, bổ sung		Văn bản sửa đổi, bổ sung
Văn bản bị đính chính		Văn bản đính chính
Văn bản bị thay thế		Văn bản thay thế
Văn bản được dẫn chiếu		Văn bản căn cứ

Tải văn bản

Tải văn bản về Bản PDF/Bản gốc