באגים הורגים

[xslf]

באגים הורגים

מאמר מעניין על מקרי מוות כתוצאה מבאגים בתוכנה ותכנון גרוע. יש גם תביעות בנושא, והמסקנה הברורה מאליו (לנו) על החשיבות של אבטחת איכות תוכנה: http://www.eweek.com/article2/0,1759,1543652,00.asp?kc=EWNWS030804DTX1K0000599

 

[אבי ע]

נכון, אבל... ../images/Emo39.gif

מקובל שבמערכות תומכות חיים רמת בקרת האיכות הנדרשת היא מסדר גודל שונה מאשר במערכות שאינן כאלה. זכור לי (אם כי אין לפני מספרים: למישהו יש קישור?) כי מדובר בסדרי גודל של 30% עד 90% מכוח האדם בפיתוח שמוקדש לבקרת האיכות, במערכות כאלה. אמנם בארה"ב, ארץ התביעות הבלתי מוגבלות, אתה עשוי למצוא עצמך נתבע גם בהקשר רחוק יותר (פגם בתוכנה שהשפיע על משהו שהשפיע על משהו וכולי שגרם מוות), אבל עדיין, מעשית, יש להבחין בין שני סוגי המערכות. כמובן, איכות התוכנה חשובה מאד בכל בכל מקרה

 

[xslf]

בעייה שאני ראיתי היא

שמשתמשים בתוכנות למקומות בהם הם לא יועדו על ידי היצרן. נתקלתי כבר במכשיר לייזר להסרת משקפיים, שנשלט ע"י תוכנה חלונאית. לא גורם לי להרגשה טובה... נקודה נוספת שהם העלו במאמר, שנראה לי שכדאי להתייחס אליה, היא העובדה שיותר ויותר תוכנות מתקשרות אחת עם השנייה, מה שעלול לגרום לתוצאות בלתי צפויות. אגב, במאמר הוזכרו מערכות אחרות שגרמו למוות כתוצאה מבאגים, שאינן רפואיות: לדוגמא מכשיר שליטה ל־air traffic controller, ומכשירי שליטה על מכוניות.

 

[אבי ע]

בהחלט,תומך חיים זה לא רק רפואי../images/Emo39.gif

ואפילו לא בעיקר רפואי. מערכות נהיגה, טיס כמובן, טיסה בחלל (נאס"א...) על אחת כמה וכמה, ועוד כהנה וכהנה, כולן תומכות חיים ודורשות בקרת איכות בהתאם. הנקודה הראשונה שהעלית אכן מטרידה, ואולי באמת כדאי לכל יצרן תוכנה לציין ב-about שהיא לא נבדקה ברמה של תמיכת חיים או מעבר לרמה בטיחות מסויימת.

 

[Rשף]

ומה אם זו תוכנה ברכב ?

פיג'ו/סיטרואן עברו לייצר רכבים מאד ממוחשבים ועקב באגים קרו כמעט תאונות, אתה מציע שכל פעם שאתניע את ה-307 תעלה הודעה שהתוכנה לא נבדקה ?

 

[אבי ע]

בדיוק להיפך... ../images/Emo13.gif ../images/Emo39.gif

כל רכיב תוכנה בעל היבט בטיחותי צריך להיבדק כמערכת תומכת חיים, ולהיות מאושר לפי הקריטריונים המחמירים ביותר. ואם הם ירצו פתאום להשתמש בתוכנת צד שלישי שלא נבנתה מראש כתומכת חיים (כמו, למשל, "חלונות"), יהיה ברור שהיא דורשת בדיקות והתאמה לתקן בטיחותי ולא ניתן לקבלה כמות שהיא. כמובן, יש גם מערכות אחרות, למשל מערכת ניווט (שאינה משפיעה על מערכות הרכב אלא רק לידיעת הנהג) שאינן נדרשות לתקן כזה. בכמה עשרות אלפי מיילים שעשיתי בארה"ב עם מערכת NeverLost של מגלן / הרץ מצאתי אלפי באגים במערכת הזו (ונשארתי בחיים)...

 

[Rשף]

מדובר, אגב, ביותר מבדיקות

גם על הפיתוח עצמו יש מגבלות ודרישות למשל מערכת הפעלה שאושרה כמתאימה.

 

[ScrollLock]

ושאלת "התקלה" לפורום, בנושא זה

האם מערכות שמשמשות לפיתוח מערכות ציוד רפואי צריכות גם הן להיבדק? ניקח לדוגמא סביבת פיתוח מלאה, שכוללת מערכת הפעלה (חלונות?), בסיס נתונים (להזכירכם - מדובר במוצר מדף) וערכת פיתוח (כל מוצר מדף שהוא). האם, לדעתכם, יש צורך לבצע בדיקות גם לסביבת הפיתוח? האם תבצעו סבב בדיקות ל-Windows או שמא תבקשו את תוצאות הבדיקות מהיצרן (Microsoft)? האם בסיס הנתונים צריך להיבדק בפני עצמו כדי למצוא באגים? בקיצור - מה עושים? איך מתמודדים עם זה? *לפותרים נכונה יוענק פרס - סופשבוע באגף הסגור. רמז: יש פתרון לשאלה, אפילו כזה שהוא חד משמעי ובלי יותר מדי התפלפלויות והתפלספויות. זה יותר פשוט ממה שזה נשמע.

 

[Rשף]

תקן כלשהו ?

לפחות למערכות תעופתיות יש תקן למערכות הפעלה, ואם היא עומדת בו אין צורך בבדיקות.

 

[ScrollLock]

לא! הרבה יותר פשוט...

 

[אבי ע]

התשובה, לדעתי: לא ! ../images/Emo39.gif

ועכשיו להתפלפלויות וההתפלספויות: אם בדקנו כראוי את היישום עצמו והוא עמד בבדיקות המחמירות ביותר, מה אכפת לנו אם הכלי בעזרתו פיתחנו עלול בנסיבות מסוימות לגרום לתקלה במוצר המפותח? כמובן, עדיף שלא, אבל אם התוצר נבדק, כלי הפיתוח כבר לא חשובים. משל למה הדבר דומה: בנינו בניין בעזרת פיגומים. הפיגומים לא עמדו בשום תקן בטיחות שהוא, אבל הבניין כן. בתום הבנייה הסרנו את הפיגומים: מכאן ואילך, מה הם נוגעים לעניין?

 

[עפר פרת]

רק לסבר את האוזן

אני עובד בחברה המייצרת אפליקציות מורכבות המיועדות ללקוחות גדולים, עם השלכות מאוד לא נעימות לכל באג. אצלנו מחזור פיתוח של גירסא חדשה נמשך כשנה. ארחנו להרצאה מנהל QA מחברה המייצרת מיכשור רפואי. מחזור הפיתוח שלהם נמשך חמש שנים.

 

[ScrollLock]

את באמת רוצה שנדבר על זה?

היות ואני מניח שאני היחיד בפורום שעיקר עיסוקו הוא Medical Software Quality Assurance (הגדרה עברית תתקבל בברכה), אני יכול לספר לך את כל ההיסטוריה שעומדת מאחורי כל דרישה ודרישה בתחום שנקרא Medical Computing. למעשה המאמר שהבאת או יותר נכון המקור שלו (משנת 1996 אם אני לא טועה), מהווה את הסיבה הבסיסית לכל דרישות ה-FDA לולידציה ווריפיקציה של תוכנות שמשמשות ציוד רפואי. לפני מספר שנים יצא קובץ הנחיות של ה-FDA לאיך לעשות מה ומאז ועד היום - הכאוס הוא ששולט. ה-FDA עשה את מה שהם יודעים לעשות הכי טוב - לזבל ת'שכל. הם מוציאים מדי שנה אינספור הנחיות שנוגעות לפיתוח ציוד רפואי אבל לא תמצאו שום הנחייה קונקרטית או הסבר מדוייק. מצד שני - זו בדיוק היד שמאכילה אותי ואת שכמותי ולכן "לא יפה לנשוך אותה". בשורה התחתונה (סיכומון קצרצר) - אם התהליך הוא מסודר ומתועד (דגש על מתועד) כיאות - כל מבדק של ה-FDA יעבור בלי בעייה. יש מי שטוען ש- "ערימה מכובדת של ניירות תצילנו מכל צרה" ומאידך, אני ידוע כמינימליסט שדוגל בתוצאות אמיתיות ולא רק בכסת"ח. ד"א - הסיפור עם Medical Computing הוא לא מסובך בכלל - כל עוד אף אחד לא נפגע ומגיש תביעה --> (מכאן נובע) --> אם כבר מישהו נפגע, עדיף שלא יוכל להתלונן...