О фатальных программных ошибках и т.п.

 
1 2 3 4
+
-
edit
 

=KRoN=
Balancer

администратор
★★★★☆
При поиске информации по причинам катастрофы Ариан-5 нашёл пару интересных ссылок, и решил кинуть в отдельный топик:

Мифы о безопасном ПО: уроки знаменитых катастроф
_http://win.www.osp.ru/os/1998/06/21.htm

Мифы о безопасном ПО: уроки знаменитых катастроф

Мифы о безопасном ПО: уроки знаменитых катастроф Валерий Аджиев, valery u-aizu.ac.jp "Если бы строители строили здания так же, как программисты пишут программы, первый залетевший дятел разрушил бы цивилизацию" Второй закон Вейлера Не секрет, что ошибки в программном обеспечении "ответственных" систем могут вызвать чрезвычайные последствия, тем не менее, в обществе, особенно на уровне массового потребителя ИТ, продолжает витать иллюзия непогрешимости компьютера и работающего на нем ПО. В статье…// Компьютерный
 


Разработка боевых программ в НИИ-5
_http://kis.pcweek.ru/year1999/N40/CP1251/Opinions/chapt1.htm

Разработка боевых программ в НИИ-5.

Виртуальный компьютерный музей. История компьютеров в СССР и за рубежом. Англо-русский компьютерный словарь. Вычисления в докомпьютерную эпоху. Технологии. Компьютерные игры. История развития электросвязи. История развития ПО. // www.computer-museum.ru
 
 
Это сообщение редактировалось 25.01.2016 в 19:11

Ch

втянувшийся
Большое спасибо за предложенные материалы. Особенно по Ариану и облучательной установке. Липаева-то я и так знал ... :) .
С программными ошибками мне приходилось сталкиваться в своей жизни, но нельзя, сказать, что часто. Я имею в виду действительно редкие и серьёзные ошибки, а не всякую шелуху, которая вычищается в первый месяц испытаний.
Запомнился один случай, он чем-то напоминает историю с облучательным аппаратом.
В комплексе "Строй-П" был реализован автоматизированный предстартовый контроль и пуск ДПЛА "Пчела". При подготовке ДПЛА к пуску двигатель (поршневой) автоматически заводился стартёром. Делалось три попытки прокрутки по 15 (?) секунд с перерывами по 30 (?) секунд. Если за три прокрутки двигатель не заводился, то диагностировался его отказ.
Так вот, на технической позиции проводили какие-то работы с двигателем (чего-то не ладилось с самим двигателем). ЭВМ выполнила две прокрутки. Двигателист дал команду оператору у пульта "Хватит". Оператор нажал кнопку "Отмена". Лампочка на кнопке не загорелась! Но никто не обратил внимания. Двигателист полез чего-то смотреть в карбюратор, как вдруг стартёр начал крутить двигатель! А на валу воздушный винт! А в карбюраторе - нос двигателиста! Двигателист оказался очень проворным и отскочил с неутраченным носом. Стартёр покрутил свои секунды, двигатель не завёлся, ЭВМ зафиксировала отказ и всё обошлось.
Оказалось, что в цикле работы программы для обработки чего-то очень важного каждую секунду на 20 мс запрещались прерывания. Оператор ткнул в кнопку именно в этот период. Поэтому и лампочка не зажглась. И команда "Отмена", естественно, не прошла... Ну, исправили, ясно дело. В ту же ночь...
А Вы спрашиваете, почему я программы сам пишу. :)
 

muxel

Энтузиаст реактивного движения

=KRoN=>При поиске информации по причинам катастрофы Ариан-5 нашёл пару интересных ссылок, и решил кинуть в отдебный топик:

=KRoN=>*Мифы о безопасном ПО: уроки знаменитых катастроф*
=KRoN=>http://win.www.osp.ru/os/1998/06/21.htm

Не там искал :) Я уже кидал это все в этот форум еще в мае...
Вот Мифы о безопасном ПО: уроки знаменитых катастроф
 
+
-
edit
 

=KRoN=
Balancer

администратор
★★★★☆
muxel>Не там искал :) Я уже кидал это все в этот форум еще в мае...
muxel>Вот Мифы о безопасном ПО: уроки знаменитых катастроф

Блин! Я точно помнил, что было на Авиабазе, но искалка ничего не нашла. Ни по одному из базовых ключевых слов! Ну ладно, слава Богу, всё нашлось :)
 
Владимир>Список можно и расширить:

Вот нашел по Зениту SL:
_http://www.boeing.com/news/releases/2000/news_release_000329s.html
Цитирую:

"A core team of Boeing experts has heard strong evidence and supporting rationale indicating the root cause of the failure is related to a ground software logic error. Sea Launch partners Yuzhnoye and Energia detected the error during post-launch data review and probable cause investigation. Initial review of the flight telemetry supports this root cause scenario.

The logic error would appear to have failed to command a valve to close in the second stage pneumatic system. This system performs several functions, including operation and actuation for the steering engine. Data indicates this system had lost more than 60% of its pressure. Continued pressure loss reduced the capability of the engine, ultimately leading to a significant deviation in attitude, triggering the automatic flight termination system."
 
FR <Владимир> #21.09.2001 16:00
+
-
edit
 
=KRoN=>При поиске информации по причинам катастрофы Ариан-5 нашёл пару интересных ссылок, и решил кинуть в отдебный топик:

Список можно и расширить:
Delta III;
Зенит SL;
Протон-М;
MGS;
MPL,
МКС CanadArm...
 
По Delta III:


Boeing: Boeing Prepares for Next Delta III Launch Attempt

Pending range availability, Boeing will attempt to launch a Delta III rocket carrying the Orion 3 satellite Tuesday, May 4.

// www.boeing.com
 



Цитата:
HUNTINGTON BEACH, Calif., April 26, 1999 - Pending range availability, Boeing will attempt to launch a Delta III rocket carrying the Orion 3 satellite Tuesday, May 4.
If another launch, planned for Friday, April 30, goes as scheduled, the Delta team could launch as early as Sunday, May 2.

The last Delta III launch attempt ended in an on-pad abort, when ground-support software did not send the main-engine ignition command to the vehicle.

The situation occurred when a computerized vehicle-systems check, run every tenth of a second, interrupted the ignition command due to a software error. The main engine ignition command was never issued and the launch was automatically aborted.
 

.cpp

втянувшийся

Про Amazon

Гнусная ошибочка. Я на 100% уверен, что ошибка не в процедуре составления уведомления. Просто она там проявляется. Найти будет трудно, особенно, если если программа многопотоковая.
 
GB Nick_Crak #14.06.2002 20:34
+
-
edit
 

Nick_Crak
Wyvern

аксакал

админ. бан
Ch>Большое спасибо за предложенные материалы. Особенно по Ариану и облучательной установке. Липаева-то я и так знал ... :) .
Ch>С программными ошибками мне приходилось сталкиваться в своей жизни..

Соль в том, что (статью эту я давно читал -тоже из профессионального интереса, но не про Ариан :) )в случае с Арианом ОШИБКИ НЕ БЫЛО. Вернее не было ее в программе, она образовалась из свойств совершенно правильных подпрограмм.
мне собенно понравилась фраза "Собственно пуск Ариан-5 и был масштабной проверкой ПО" :lol:

Ник
Объективная реальность - вариант бреда, обычно вызывается низким уровнем концентрации алкоголя в крови.
 
+
-
edit
 

=KRoN=
Balancer

администратор
★★★★☆

Amazon снимает со счетов клиентов миллиарды долларов



Как сообщается на сайте www.theregister.co.uk, британское отделение интернет-магазина Amazon ведет борьбу со странными ошибками в системе обработки покупок, выражающимися в огромных счетах, выставляемых пользователям при покупке товаров по вполне обычным ценам.

Подтверждение о снятии денег с кредитной карточки, выглядящее следующим образом, может вызвать у покупателя проблемы с сердцем:

Общая сумма: 14,58 фунта Стоимость доставки: 3,34 фунта Итого: 3 268 640,44 фунта

Обеспокоенные клиенты Amazon с облегчением узнали, что сумма в три миллиона долларов на самом деле не снимается с их кредитной карты - ошибка происходит только при создании уведомления о покупке. Еще один клиент Amazon сообщил The Register о получении им счета на 21 миллион фунтов. В другом уведомлении содержалась информация о покупке на сумму минус 922 триллиона фунтов. Пользователь, приславший данное уведомление, в отличие от других, пожалел, что на самом деле с его кредитной карты было снято 40 фунтов, а вышеозначенная сумма не была начислена.

// Компьюлента
// PC News, 11:44 14.06.2002
 
+
-
edit
 

Balancer

администратор
★★★★☆
Продолаем разговор:




В Американском космическом агентстве (NASA) объяснили причину неполадок в работе марсохода Spirit, контроль над которым не удается восстановить с 21 января. По словам менеджера программы Дженнифер Троспер (Jennifer Trosper), бортовому компьютеру марсохода не хватило памяти, чтобы сохранить и обработать весь объем информации, собранной на Красной планете и по пути к ней, сообщается на сайте газеты Los Angeles Times.

...

За семь месяцев полета марсохода и почти три недели работы на поверхности Марса память оказалась переполнена. В результате бортовой компьютер запустил бесконечный цикл перезагрузки.



//

Марсоходу Spirit поставили память от цифровой фотокамеры

В Американском космическом агентстве объяснили причину неполадок в работе марсохода Spirit, контроль над которым не удается восстановить с 21 января. Как сообщила менеджер программы Дженнифер Троспер, бортовому компьютеру марсохода не хватило памяти, чтобы обработать весь объем информации, собранной на Красной планете и по пути к ней. По словам Троспер, Spirit оснащен 128-мегабайтным модулем памяти RAM и 256-мегабайтной флэш-картой. // lenta.ru
 


Что-то кто-то говорил некоторое время назад про то, что программированию обезьян удалось научить. Вот, наверное, они и писали.
 
RU Centuriones #28.01.2004 00:43
+
-
edit
 

Centuriones

опытный

По некотрым сведениям, в СССР, раньше программист, составлявший программы для космоса или оборонки лично отвечал за "каждый байт" своего творчества. Ошибки, конечно были, но не в таком объеме как сейчас.
А интересно, если написано что:
Nick_Crak, 14.06.2002 16:34:00:
Вернее не было ее в программе, она образовалась из свойств совершенно правильных подпрограмм.
 

не следует ли из этого, что применялось ООП? Вроде у простых подпрограмм побочных эффектов не должно наблюдаться?
Раньше были времена,
А теперь мгновения.
Раньше поднимался дух,
А теперь давление.
 
+
-
edit
 

Balancer

администратор
★★★★☆
Centuriones, 28.01.2004 00:43:31:
Вроде у простых подпрограмм побочных эффектов не должно наблюдаться?
 

Как раз у простых подпрограмм побочных эффектов выше крыши. Например, потому что простые подпрограммы направо и налево использую (обычно) глобальные переменные
 
RU Centuriones #28.01.2004 02:49
+
-
edit
 

Centuriones

опытный

Balancer, 28.01.2004 01:06:41:
Как раз у простых подпрограмм побочных эффектов выше крыши. Например, потому что простые подпрограммы направо и налево использую (обычно) глобальные переменные
 

Это невнимательность программиста, а не свойство подпрограмм.
Раньше были времена,
А теперь мгновения.
Раньше поднимался дух,
А теперь давление.
 

Rada

опытный

2 Centuriones:
подпрограммой (от англ. subroutine, ещё со дней goto) обычно называют процедуры, у которых основной смысл - это побочные эффекты, в отличие от функций, под которыми подразумевают в большей или меньшей степени математические функции, т.е. отсутствие побочных эффектов. Это вопрос терминологии, но ИМХО Роман именно это имел ввиду.
С себя можно начать когда все остальное будет в порядке.  

Rada

опытный

Интересный инцидент произошёл с миссией Pathfinder в 1997-м году (взято с Embedded Systems, Conference, development,real-time, programming, emulators, multitasking, debugging, software,optimization, engineer, RTOS, chips, tools, microcontrollers,DSP,operating systems,kernel,microprocessors,object-oriented,single board,ada,C++,vi). В общих словах, имела место инверсия приоритетов в многопоточной программе управления этим средством.

Для тех кто не знает, инверсией приоритетов является состояние системы потоков, при котором высокоприоритетный поток блокирован менее приоритетным потоком, например из-за конфликта ресурсов. Например, имеем потоки А, Б, и В, где А имеет высокий приоритет, Б - средний, В - низкий; и ресурс Р. Допустим, В держит ресурс Р, и прерван потоком Б, имеющий более высокий приоритет. В этот момент высокоприоритетный поток А обращается за Р, и блокирован, т.к. низкоприоритетный поток В его не отпустил - имеем инверсию приоритетов. Стоит заметить, что это не является настоящей, т.е. логической ошибкой, как например круговое замыкание потоков, но может серьёзно деградировать работу системы, вплоть до серьёзного нарушения работы. Что и произошло с космическим аппаратом Pathfinder.

Высокоприоритетный поток управления одной из шин коммуникации общался с низкоприоритетным потоком сбора информации об окружающей среде через пайпу. Низкоприоритетный поток был прерван среднеприоритетным, в тот момент, когда он держал семафор шины, из-за чего управление шиной надолго затыкалось, что обуславливало аварийный сброс и перезагрузку всей программы. К счастью, проблему удалось обнаружить и исправить дистанционно.

В современных операционных системах как общего назначения, так и реального времени, инверсия приоритетов решается подьёмом (бустингом) низкоприоритетного потока до того момента, пока тот не отпустит конфликтный ресурс. Многие коммерческие юниксы и винды работают таким образом.
С себя можно начать когда все остальное будет в порядке.  

TEvg

аксакал

админ. бан
Мне кажется что программы в КА не должны быть многопоточными т.к. это неистощимый источник глюков.
 
RU Centuriones #28.01.2004 09:54
+
-
edit
 

Centuriones

опытный

Rada, 28.01.2004 05:07:05 :
подпрограммой (от англ. subroutine, ещё со дней goto) обычно называют процедуры, у которых основной смысл - это побочные эффекты, в отличие от функций, под которыми подразумевают в большей или меньшей степени математические функции, т.е. отсутствие побочных эффектов. Это вопрос терминологии, но ИМХО Роман именно это имел ввиду.
 

Это все так, но все эти побочные эффекты видны как на ладони, общеизвестны. Это камни, но не подводные. А вот в ООП многие камни подводные. Хотя вряд ли для программирования КА применяют ООП...

Версия про инверсию приоритетов выглядит убедительной, но тогда, если эти свойства многопоточных приложений известны, а они известны, программистам надо отрывать ноги. А ошибка это все-таки логическая, поскольку вытекает из логики работы программы.
Раньше были времена,
А теперь мгновения.
Раньше поднимался дух,
А теперь давление.
 
+
-
edit
 

Balancer

администратор
★★★★☆
Centuriones, 28.01.2004 02:49:27:
Это невнимательность программиста, а не свойство подпрограмм.
 

Все программные ошибки - следствия невнимательности программиста (в широких смыслах этих терминов)
 

Rada

опытный

2 Centuriones:
А вот в ООП многие камни подводные.
 
Приведите примеры.
Версия про инверсию приоритетов выглядит убедительной, но тогда, если эти свойства многопоточных приложений известны, а они известны, программистам надо отрывать ноги.
 
Ха, вы пробовали писать многопотоковые приложения? :) Уже все программисты без ног были бы. Дело в том, что на испытаниях на земле КА работал нормально - ошибка проявилась только когда появилась эта дурацкая ситуация - низкоприротетный поток был прерван среднеприоритетным.

2 TEvg:
Мне кажется что программы в КА не должны быть многопоточными т.к. это неистощимый источник глюков.
 
На КА имеем кучу асинхронно работающих приборов и систем в реальном времени. Что будем делать?
С себя можно начать когда все остальное будет в порядке.  
+
-
edit
 

Mishka

модератор
★★☆

Rada, 28.01.2004 19:22:42:
2 TEvg:
Мне кажется что программы в КА не должны быть многопоточными т.к. это неистощимый источник глюков.
 
На КА имеем кучу асинхронно работающих приборов и систем в реальном времени. Что будем делать?
 

Делаем все приборы синхронными и отрываем ноги инженерам!

А вообще-то заявление о том, что не надо многопоточности есть прямой отрыв от действительности. Программировать в терминах параллелизма намного сложнее. Профессионализм надо поднимать.
 
+
-
edit
 

Balancer

администратор
★★★★☆
Rada, 28.01.2004 19:22:42:
>А вот в ООП многие камни подводные.
Приведите примеры.
 

C++:
a = b + c;
что оно делает?
 

Rada

опытный

C++:
a = b + c;
что оно делает?
 
Скажи мне что есть b и c, и я скажу тебе что такое a.
С себя можно начать когда все остальное будет в порядке.  
+
-
edit
 

Balancer

администратор
★★★★☆
Rada, 28.01.2004 21:04:17:
C++:
a = b + c;
что оно делает?
 
Скажи мне что есть b и c, и я скажу тебе что такое a.
 

csStreamClass a;
csPipe b;
csAnyDrop c;

Описание каждого класса - на несколько экранов текста, со ссылкой на другие описания классов. Приводить тут лень
 

Rada

опытный

То что из внешнего вида операции не всегда можно понять её смысл не есть исключительный недостаток ОО языков. Например a = add(b, c), или (define a (+ b c)). Так что - не в тему. Жду примеры подводных камней именно ОО подхода, а именно - сокрытие информации, наследование, полиморфность - таково, насколько мне известно, определение ОО подхода.
С себя можно начать когда все остальное будет в порядке.  
1 2 3 4

в начало страницы | новое
 
Поиск
Настройки
Твиттер сайта
Статистика
Рейтинг@Mail.ru