Полиэтиленовые трубы        02.03.2019   

Некоторые экономические задачи, решаемые методами динамического программирования. Выбор оптимальной стратегии замены оборудования как задача динамического программирования

Одной из важных экономических проблем является определение оптимальной стратегии замены старых станков, aipcraTOB и машин на новые. Старение оборудования означает его физический и моральный износ, в результате чего увеличиваются затраты на ремонт и обслуживание, возрастают производственные затраты по выпуску продукции, снижаются

производительность и ликвидная стоимость. Наступает время, когда старое оборудование выгоднее продать, заменить новым, чем эксплуатировать ценой больших затрат; причем его можно заменить новым оборудованием того же вида или новым, более совершенным. Оптимальная стратегия замены оборудования состоит в определении ее оптимальных сроков. Критерием оптимальности при этом может служить прибыль от эксплуатации оборудования, которую следует оптимизировать, или суммарные затраты на эксплуатацию в течение рассматриваемого промежутка времени, подлежащие минимизации.

Введем обозначения:

r(t) - ежегодные затраты на обслуживание оборудования возраста t лег;

g(t) - остаточная стоимость оборудования возраста t лег;

Р 0 - покупная цена оборудования.

Рассмотрим период N лет, в пределах которого требуется определить оптимальный цикл замены оборудования.

Обозначим через Л*(/) - оптимальные затраты, получаемые от

оборудования возраста t лет за оставшиеся N лет цикла использования оборудования при условии оптимальной стратегии.

Возраст оборудования отсчитывается в направлении течения процесса. Так, / = 0 соответствует случаю использования нового оборудования. На каждом этапе /V-стадийного процесса должно быть принято решение о сохранении, замене или проведении ремонта оборудования. Выбранный вариант должен обеспечивать получение минимизации суммарных затрат на эксплуатацию в течение рассматриваемого промежутка времени.

Предполагается, что переход от работы на оборудовании возраста t лег к работе на новом оборудовании совершается мгновенно, то есть замена старого оборудования и переход к работе на новом оборудовании укладываются в один период.

Пример 4.2

Оборудование эксплуатируется в течение пяти лет и после этого продается. В начале каждого года можно принять решение о сохранении оборудования или его замене новым. Стоимость нового оборудования Р 0 = 4000 руб. После t лет эксплуатации (1 g(t) = Р 0 2~‘ руб. (ликвидная стоимость). Затраты на содержание в течение года зависят от возраста оборудования t и равны r(t) = 600(/ + 1).

Определить оптимальную стратегию эксплуатации оборудования, чтобы суммарные затраты с учетом начальной покупки и заключительной продажи были минимальными.

Решение. Способ деления управления на шаги естественный - но годам, п = 5. Параметр состояния - возраст машины лу= t, ,v 0 = 0 - машина новая в начале первого года эксплуатации. Управление на каждом шаге зависит от двух переменных If и If.

Уравнения состояний зависят от управления:

Показатель эффективности А"-го шага:

(при If затраты только на эксплуатацию машины возраста t, при If машина продается (-4000 2~"), покупается новая (4000) и эксплуатируется в течение первого года (600), общие затраты равны (-4000 2 " + 4000 + 600)).

Пусть л’ (?) - условные оптимальные затраты на эксплуатацию машины, начиная с А"-го шага до конца, при условии, что к началу А"-го шага машина имеет возраст / лег. Запишем для функций Л"(г) уравнения Веллмана, заменив задачу максимизации задачей минимизации:

Величина 4000 2 0+11 - стоимость машины возраста t лет (по условию машина после пяти лет эксплуатации продается):

Из определения функций Л* (/) следует A min = Л*(0).

Представим геометрическое решение этой задачи. Отложим по оси абсцисс номер шага к, а по оси ординат - возраст машины /. Точка (к - 1, /) на плоскости соответствует началу А - -го года эксплуатации машины возраста / лет. Перемещение на графике в зависимости от принятого управления на /о-м шаге показано на рис. 4.3.


Рис. 4.3

Состояние начала эксплуатации машины соответствует точке,v‘(0, 0), конец - точкам.5(5,/). Любая траектория, переводящая точку ДА-1, /) из в.5, состоит из отрезков - шагов, соответствующих годам эксплуатации. Необходимо выбрать такую траекторию, при которой затраты на эксплуатацию машины окажутся минимальными.

Над каждым отрезком, соединяющим точки (А’ - 1, /) и (А, / + 1), записываются соответствующие управлению If затраты (600(/ + 1)), а над отрезком, соединяющим точки - 1, /) и (к , /), - затраты, соответствующие управлению If (4600 - 4000 2 "). Таким образом размещаются все отрезки, соединяющие точки на 1рафикс, соответствующие переходам из любого состояния лд_| в состояние s k (см. рис. 4.3).

Далее на размеченном фафе производится условная оптимизация. В состояниях (5, /) машина продается, условный оптимальный доход от продажи равен 4000 2~‘, но поскольку целевая функция связана с затратами, то в кружках точек (5, /) ставится величина дохода со знаком минус. Далее на последующих этапах выбираются минимальные затраты среди двух возможных переходов, записываются в кружок данной точки, а соответствующие управления на этом шаге помечаются пунктирной стрелкой. При этом на каждом шаге трафически решаются уравнения Веллмана (рис. 4.4).

После проведения условной оптимизации получим в точке (0, 0) минимальные затраты на эксплуатацию машины в тсченШ пяти лет с последующей продажей: A min = 11 900. Далее строится оптимальная траектория, перемещаясь из точки So(0, 0) по пунктирным стрелкам в.?. Получаем набор точек: {(0, 0), (1, 1), (2, 2), (3, 1), (4, 2), (5, 3)}, который соответствует оптимальному управлению U"(u c , U‘, U U c , U c). Оптимальный режим

эксплуатации состоит в том, чтобы заменить машину новой в начале третьего года.

Таким образом, размеченный график (сеть) позволяет наглядно интерпретировать расчетную схему и решить задачу методом динамического программирования.

Модели и вычислительные процедуры динамического программирования очень гибки в смысле возможностей включения различных модификаций задачи. Например, аналогичная задача может быть рассмотрена для большого числа вариантов управления, «ремонт», «капитальный ремонт» и г.д. Все эти факторы могут быть учтены вычислительной схемой динамического программирования.

В процессе эксплуатации оборудование подвергается физическому и моральному износу. Существует два способа восстановления оборудования - полное и частичное. При полном восстановлении оборудование меняется на новое, при частичном оборудование ремонтируется. Для оптимального использования оборудования нужно найти возраст, при котором его необходимо заменить, чтобы доход от машины был максимальным или, если доход подсчитать не удается, издержки на ремонтно-эксплуатационные нужды были минимальными. Данный подход рассматривается с позиции экономических интересов потребителя.

Для оптимизации ремонта и замены оборудования требуется разработать на плановый период стратегию по замене машины. В качестве экономических интересов может быть использован один из двух подходов:

1. Максимум дохода от машины за определенный промежуток времени.

2. Минимум затрат на ремонтно-эксплуатационный нужды, если доход подсчитать не удается.

Данная задача решается методом динамического программирования. Основная идея этого метода заключается в замене одновременного выбора большего количества параметров поочередным их выбором. Этим методом могут быть решены самые различные задачи оптимизации. Общность подхода к решению самых различных задач является одним из достоинств этого метода.

Рассмотрим механизм оптимизации ремонта и замены оборудования. Для решения задачи введем следующие обозначения:

t - возраст оборудования;

d(t) - чистый годовой доход от оборудования возраста t;

U(t) - издержки на ремонтно-эксплуатационные нужды машины возраста t;

С - цена нового оборудования.

Для решения этой задачи введем функцию fn(t) , которая показывает величину максимального дохода за последние n - лет при условии, что в начале периода из n - лет у нас была машина возраста t - лет.

Алгоритм решения задачи следующий:

1) f1(t) = max d(0) - С

) fn(t) = max fn-1(t+1) + d(t)

fn-1(1) + d(0) - С

Увеличение издержек приведет к снижению чистого дохода, который рассчитывается так:

d(t) = r(t) - u(t)

r(t) - годовой объем дохода от оборудования возраста t;

u(t) - годовые затраты на ремонтно - эксплуатационные нужды

оборудования возраста t.

Подход максимизации дохода

Для решения этой задачи введем функцию fn(t) , которая показывает величину максимального дохода за последние n - лет при условии, что в начале периода из n-лет у нас было оборудование возраста t-лет.

Если до конца периода остался 1 год

Если до конца периода осталось n лет

(t) = max

где t - возраст оборудования;

d (t) - чистый годовой доход от оборудования возраста t;

C - цена нового оборудования.

Увеличение издержек приведет к снижению чистого дохода, который рассчитывается так

(t) = r(t) - u(t)

где r (t) - годовой объем дохода от оборудования возраста t;

u(t) - годовые затраты на ремонтно-экплуатационные нужды оборудования возраста t.

Рассчитаем чистый доход по формуле, зная динамику поступления дохода и роста издержек на ремонт.

Таблица 2. Чистый доход от оборудования по годам

оптимальный динамическое программирование стратегия

В общем виде проблема ставится следующим образом: определить оптимальную стратегию использования оборудования в период времени длительностью m лет, причем прибыль за каждые I лет, i= от использования оборудования возраста t лет должна быть максимальной.

Известны: r(t) - выручка от реализации продукции, произведенной за год на оборудовании возраста t лет, l(t) - годовые затраты, зависящие от возраста оборудования t, c(t) - остаточная стоимость оборудования возраста t лет, P - стоимость нового оборудования. Под возрастом оборудования понимается период эксплуатации оборудования после последней замены, выраженный в годах.

Для построения математической модели последовательно выполняются этапы, сформулированные ниже.

1. Определение числа шагов. Число шагов равно числу лет, в течение которых эксплуатируется оборудование.

2. Определение состояний системы. Состояние системы характеризуется возрастом оборудования t; t=.

3. Определение управлений. В начале i-го шага, i= может быть выбрано одно из двух управлений: заменять или не заменять оборудование. Каждому варианту управления приписывается число

uс - если оборудование не заменяется;

uз - если оборудование заменяется.

4. Определение функции выигрыша на i-м шаге. Функция выигрыша на на i-м шаге - это прибыль от использования оборудования к концу на i-го года эксплуатации, t=, i=.

u1= uс - если оборудование в начале i-го года не заменяется;

u2= uз - если оборудование заменяется.

Таким образом, если оборудование не продается, то прибыль от его использования - это разность между стоимостью произведенной продукции и эксплуатационными издержками. При замене оборудования прибыль составляет разность между остаточной стоимость оборудования и стоимостью нового оборудования, к которой прибавляе6тся разность между стоимостью продукции и эксплуатационными издержками для нового оборудования, возраст которого в начале i-го шага составляет 0 лет.

5. Определение функции изменения состояния

u1 uс - если Xi=0

u2= uз - если Xi=1

6. Составление функционального уравнения для i=m.

7. Составление основного функционального уравнения

Где Wi(t) - прибыль от использования оборудования возраста t лет с i-го шага (с конца i-го года) до конца периода эксплуатации.

Wi+1(t+1) - прибыль от использования оборудования возраста t+1год с (i+1)-го шага до конца периода эксплуатации;

Таким образом, математическая модель задачи построена.

Алгоритм решения задачи

Введём обозначения:

t- возраст оборудования.

L(t) - производство продукции на оборудовании, возраст которого t лет.

R(t) - расходы на содержание оборудования.

P(t) - остаточная стоимость оборудования.

Р - стоимость нового оборудования

Fn(t)- прибыль от старого оборудования возраст которого t лет.

n-последний год.

на старом оборудовании (1)

Это функциональное уравнение

Форма входного документа

Данные могут быть занесены с помощью таблицы:

Таблица №1 . Данные входной информация.

По формуле

Описание программно-технических средств

Разработка программы производилась на языке программирования Borland

Delphi 7.0 при помощи операционной системы Microsoft Windows XP Professional

При разработке программы, использовались компоненты Delphi:

String Grid - для заполнения справочников и отображения результатов

Edit - для ввода значений

Button - для создания кнопки

Label - создание меток, для удобства использования

Image - изображения

MainMenu - Меню программы

OpenDialog - открыть диалог

При разработки программного обеспечения так же использовались следующие системные утилиты:

Антивирусные программа (Dr.Web 4.44)

Программы архиваторы (WinRar v3.45).

утилиты Microsoft Office (Microsoft Word, Excel).

графические редакторы (PhotoShop v CS3)

При разработке программного обеспечения использовался ПК со следующими характеристиками:

Процессор: Intel Pentium(R) 3.00 GHz

Оперативная память: 1Gb DDR2 PC 533

Видео карта: NVIDIA Gee Force FX 6600 128Mb

Жесткий диск: 200 Gb

Монитор: 17" 1280x1025@75Hz

Отладочный пример

найдём максимальную прибыль при замене оборудования через 2 года:

По формуле

Вывод: Максимальную прибыль в размере 215 единиц мы получим, если поменяем оборудование через 2 года на третий.

Описание программы

Программа «Решение задач о замене оборудования» предназначена для предприятий, занимающихся каким-либо родом деятельности, требующего использования определенного оборудования. В силу ряда причин, оборудование изнашивается физически, т.е. ломается и не подлежит ремонту или возникают такие неисправности, при которых проще купить новое оборудование, чем ремонтировать старое, либо изнашивается морально, т.е. темпы роста экономического развития отрасли производства этого оборудования очень велики. Таким образом, для того, чтобы «производство продукции» на таком оборудовании достигало максимального эффекта, его необходимо периодически менять. Эта программа подсчитывает количество лет, через которое нужно сменить оборудование, чтобы получить максимальную прибыль.

Для разработки программы «Решение задач о замене оборудования» был использован язык программирования Delphi 6. В настоящее время эта среда объектно-ориентированного программирования очень популярна, ее основой является язык Object Pascal. Она позволяет создавать приложения различной степени сложности - от простейших программ до профессиональных, предназначенных для работы с базами данных. Кроме того, помощь по программе оформлена в виде HTML-страниц с помощью программы Arachnophilia.

Вся работа с программой основана на работе с меню, с его описанием можно ознакомиться в пункте меню Помощь/Содержание/Работа с меню.

Данная программа создана при выполнении курсового проекта по предмету «Математические методы», на данную тему.

Введение………………...………………………………………………...……….3

Глава 1. Теоретическое описание модели замены оборудования…………..….4

1.1. Характеристика состояния хозяйствующего субъекта и выявление тенденций его развития…………...………………………………..……...4

1.2. Информационно-методическое обеспечение экономического моделирования……………...……...…………………………………...…..4

1.2.1. Методическая база решения модели………………….…………....4

1.2.2. Информационно-методическое обеспечение метода…………..…9

Глава 2. Расчет показателей экономико-математической модели и экономическая интерпретация результатов………………………….………...13

2.1. Нахождение условного оптимального решение задачи…………...15

2.2. Составление оптимального плана замены оборудования…………21

Заключение…………………………………………………………………….....24

Список литературы…………………………………………………………..…..26

Приложения…………………………...………………………………………....27

Введение

Во всем мире существует множество предприятий, которые используют для производства своей продукции машинное оборудование. Поэтому при его внедрении нужно составлять оптимальный план использования и замены оборудования. Задачи по замене оборудования рассматриваются как многоэтаповый процесс, который характерен для динамического программирования.

Многие предприятия сохраняют или заменяют оборудование по своей интуиции, не применяя методы динамического программирования. Применять эти методы целесообразно, так как это позволяет наиболее четко максимизировать прибыль или минимизировать затраты.

Целью данной работы является определение оптимальных сроков замены старого оборудования.

Задачи этой работы состоят:

· в нахождении условного оптимального решения задачи;

· в составлении оптимального плана замены оборудования.

Старение оборудования включает его физический и моральный износ. В результате чего увеличиваются производственные затраты, растут затраты на обслуживание и ремонт, снижается производительность труда и ликвидная стоимость. Критерием оптимальности является либо прибыль от эксплуатации оборудования, либо суммарные затраты на эксплуатацию в течение планируемого периода.

Курсовая содержит 2 главы, 12 таблиц, 1 приложение, 5 рисунков и оформлена на 30 страницах.

Глава 1. Теоретическое описание модели замены оборудования

1.1. Характеристика состояния хозяйствующего субъекта и выявление тенденций его развития

Для осуществления своей эффективной деятельности производственные объединения и предприятия должны периодически производить замену используемого ими оборудования. При этой замене учитывается производительность используемого оборудования и затраты, связанные с содержанием и ремонтом оборудования.

Характерным для динамического программирования является подход к решению задачи по этапам, с каждым из которых ассоциирована одна управляемая переменная. Набор рекуррентных вычислительных процедур, связывающих различные этапы, обеспечивает получение допустимого решения задачи в целом при достижении последнего этапа.

() (1.1)

(1.1) - принцип оптимальности Беллмана.

(1.2)

где t – возраст оборудования к началу k-го года ( k=1,2,3,4,5,6,7,8,9,10);

– управление, реализуемое к началу k-го года; P 0 – стоимость нового оборудования.

(1.2) - функциональное уравнение Беллмана.

1.2. Информационно-методическое обеспечение экономического моделирования

1.2.1. Методическая база решения модели

В задачах динамического программирования экономический процесс зависит от времени (от нескольких периодов (этапов) времени), поэтому находится ряд оптимальных решений (последовательно для каждого этапа), обеспечивающих оптимальное развитие всего процесса в целом. Задачи динамического программирования называются многоэтапными или многошаговыми. Динамическое программирование представляет собой математический аппарат, позволяющий осуществлять оптимальное планирование многошаговых управляемых процессов и процессов, зависящих от времени. Экономический процесс называется управляемым, если можно влиять на ход его развития. Управлением называется совокупность решений, принимаемых на каждом этапе для влияния на ход процесса. В экономических процессах управление заключается в распределении и перераспределении средств на каждом этапе. Например, выпуск продукции любым предприятием – управляемый процесс, так как он определяется изменением состава оборудования, объемом поставок сырья, величиной финансирования и т.д. Совокупность решений, принимаемых в начале каждого года планируемого периода по обеспечению предприятия сырьем, замене оборудования, размерам финансирования и т.д., является управлением. Казалось бы, для получения максимального объема выпускаемой продукции проще всего вложить максимально возможное количество средств и использовать на полную мощность оборудование. Но это привело бы к быстрому изнашиванию оборудования и, как следствие, к уменьшению выпуска продукции. Следовательно, выпуск продукции надо спланировать так, чтобы избежать нежелательных эффектов. Необходимо предусмотреть мероприятия, обеспечивающие пополнение оборудования по мере изнашивания, т.е. по периодам времени. Последнее хотя и приводит к уменьшению первоначального объема выпускаемой продукции, но обеспечивает в дальнейшем возможность расширения производства. Таким образом, экономический процесс выпуска продукции можно считать состоящим из нескольких этапов (шагов), на каждом из которых осуществляется влияние на его развитие.

Началом этапа (шага) управляемого процесса считается момент принятия решения (о величине капитальных вложений, о замене оборудования определенного вида и т.д.). Под этапом обычно понимают хозяйственный год.

Динамическое программирование, используя поэтапное планирование, позволяет не только упростить решение задачи, но и решить те из них, к которым нельзя применить методы математического анализа. Упрощение решения достигается за счет значительного уменьшения количества исследуемых вариантов, так как вместо того, чтобы один раз решать сложную многовариантную задачу, метод поэтапного планирования предполагает многократное решение относительно простых задач.

Планируя поэтапный процесс, исходят из интересов всего процесса в целом, т.е. при принятии решения на отдельном этапе всегда необходимо иметь в виду конечную цель.

Предположим, какая-то система S находится в некотором начальном состоянии S 0 и является управляемой. Таким образом, благодаря осуществлению некоторого управления U указанная система переходит из начального состояния S 0 в конечное состояние S к. При этом качество каждого из реализуемых управлений U характеризуется соответствующим значением функции W(U). Задача состоит в том, чтобы из множества возможных управлений U найти такое U*, при котором функция W(U) принимает экстремальное (максимальное или минимальное) значение W(U*).

Задачи динамического программирования имеют геометрическую интерпретацию. Состояние физической системы S можно описать числовыми параметрами, например расходом горючего и скоростью, количеством вложенных средств и т.д. Назовем эти параметры координатами системы; тогда состояние системы можно изобразить точкой S, а переход из одного состояния S 1 в другое S 2 – траекторией точки S. Управление U означает выбор определенной траектории перемещения точки S из S 1 в S 2 , т.е. установление определенного закона движения точки S.

После того как выполнены пункты 1-7, и математическая модель составлена, приступают к ее расчету.

Основные этапы решения задачи динамического программирования:

  • 1. Определение множества возможных состояний Sm для последнего шага.
  • 2. Проведение условной оптимизации для каждого состояния s€ Sm на последнем m-м шаге по формуле (1.3) и определение условного оптимального управления x(s), s€ Sm
  • 3. Определение множества возможных состояний Si для i-го шага, i=2,3…,m-1.
  • 4. Проведение условной оптимизации i-го шага, i=2,3…,m-1 для каждого состояния s€ S m по формуле (1.4) и определение условного оптимального управления x i (s), s€ S m , i=2,3…,m-1.
  • 5. Определение начального состояния системы s 1 , оптимального выигрыша W1(S1) и оптимального управления x1(S1) по формуле (1.4) при i=1. Это есть оптимальный выигрыш для всей задачи W* =W 1 (x 1 *).
  • 6. Проведение безусловной оптимизации управления. Для проведения безусловной оптимизации необходимо найденное на первом шаге оптимальное управление x 1 *=x 1 (s 1) подставить в формулу (1.2) и определить следующее состояние системы s 1 =f 1 (s 1 ,x 1). Для измененного состояния найти оптимальное управление x 2 *=x 2 (s 2), подставить в формулу (1.2) и т.д. Для i-го состояния s 1 найти s i+1 =f i+1 (s i ,x i *) и x* i+1 (s i+1) и т.д.

Динамическое программирование обычно придерживается двух подходов к решению задач:

  • · нисходящее динамическое программирование: задача разбивается на подзадачи меньшего размера, они решаются и затем комбинируются для решения исходной задачи. Используется запоминание для решений часто встречающихся подзадач;
  • · восходящее динамическое программирование: все подзадачи, которые впоследствии понадобятся для решения исходной задачи просчитываются заранее и затем используются для построения решения исходной задачи.

Этот способ лучше нисходящего программирования в смысле размера необходимого стека и количества вызова функций, но иногда бывает нелегко заранее выяснить, решение каких подзадач нам потребуется в дальнейшем.

Задача о замене оборудования состоит в определении оптимальных сроков замены старого оборудования. Критерием оптимальности являются либо доход от эксплуатации оборудования (задача максимизации), либо суммарные затраты на эксплуатацию (задача минимизации) в течение планируемого периода. Мы будем рассматривать задачу максимизации, и критерием оптимальности будет доход от эксплуатации оборудования.

Принцип оптимальности Беллмана -- важнейшее положение динамического программирования, которое гласит: оптимальное поведение в задачах динамического программирования обладает тем свойством, что каковы бы ни были первоначальное состояние и решение (т. е. “управление”), последующие решения должны составлять оптимальное поведение относительно состояния, получающегося в результате первого решения. Этот принцип можно выразить и рассуждая от противного: если не использовать наилучшим образом то, чем мы располагаем сейчас, то и в дальнейшем не удастся наилучшим образом распорядиться тем, что мы могли бы иметь.

Следовательно, если имеется оптимальная траектория, то и любой ее участок представляет собой оптимальную траекторию.

Этот принцип позволяет сформулировать эффективный метод решения широкого класса многошаговых задач.

Под функцией Беллмана в текущий момент времени понимаем минимальное значение критерия качества в текущий момент времени: Если t=0, то

Таким образом, значение функции Беллмана S(x,t) определяет минимальную величину функционала для любого начального состояния x(t) в любой момент времени t . С другой стороны, значение функции Беллмана совпадает со значением, так называемых текущих потерь на управление:

Эксплуатация оборудования планируется в течение n лет, но оборудование имеет тенденцию с течением времени стареть и приносить все меньшую годовую прибыль r(t) , где t - возраст оборудования. При этом есть выбор: либо в начале любого года продать устаревшее оборудование за цену S(t) , которая также зависит от возраста, и купить новое оборудование за цену P , либо оставить оборудование в эксплуатации. Требуется найти оптимальный план замены оборудования с тем, чтобы суммарная прибыль за все n лет была максимальной, учитывая, что к началу эксплуатационного периода возраст оборудования составляет t 0 лет.

Входными данными к этой задаче являются:

r(t) - доход от эксплуатации в течение одного года оборудования возраста t лет;

S(t) - остаточная стоимость оборудования;

P - цена нового оборудования;

t 0 - начальный возраст оборудования.

Переменной управления на k -м шаге является логическая переменная, которая может принимать два значения: С - сохранить , З - заменить оборудование в начале k -го года. Переменной состояния системы на k -м шаге является переменная t .

Функцию Беллмана F k (t) определим как максимально возможную прибыль от эксплуатации оборудования за годы с k -го по n -й, если к началу k -го года возраст оборудования составлял t лет. Применяя то или иное управление, мы переводим систему в некоторое новое состояние, а именно, если в начале k -го года мы оборудование сохраняем, то к началу следующего (k+1) -го года его возраст увеличится на 1 (состояние системы станет равно t +1), за год оно принесет прибыль r(t) , и максимально возможная прибыль за оставшиеся годы (с (k+1) -го по n -й) составит F k+1 (t+1) . Если же в начале k -го года принимаем решение на замену оборудования, то мы продаем старое оборудование возраста t лет за цену S(t) , покупаем новое оборудование за цену P и эксплуатируем его в течение k -го года, что приносит за этот год прибыль r(0) . К началу следующего года возраст оборудования составит 1 год, и за все годы с (k+1) -го по n -й максимально возможная прибыль будет F k+1 (1) .

Из этих двух вариантов управления выбираем тот, который приносит большую прибыль. Уравнение Беллмана на каждом шаге имеет вид:

Функцию Беллмана для первого шага (k=n ) легко вычислить - это максимально возможная прибыль только за последний n -й год:

Вычислив значение функции F n (t) по формуле (2), далее можно посчитать F n-1 (t) , затем F n-2 (t) и так далее до F 1 (t 0 ) . Функция F 1 (t 0 ) представляет собой максимально возможную прибыль за все годы (с 1-го по n -й). Этот максимум достигается при некотором управлении, применяя которое в течение первого года, мы определяем возраст оборудования к началу второго года (в зависимости от того, какое управление является для первого года оптимальным, это будет 1 или t 0 +1). Для данного возраста оборудования по результатам, полученным на этапе условной оптимизации , мы смотрим, при каком управлении достигается максимум прибыли за годы со 2-го по n -й и так далее. На этапе безусловной оптимизации отыскиваются годы, в начале которых следует произвести замену оборудования.