Z zagadnieniami optymalizacyjnymi spotykamy się zarówno w praktyce inżynierskiej, jak i codziennym życiu. Jedni z nas starają się jeździć samochodem tak, aby możliwie szybko dojechać na miejsce, inni - aby ograniczyć zużycie paliwa. Studenci mogą podczas studiów maksymalizować ilość zdobytej wiedzy bądź też starać się przejść przez studia minimalnym wysiłkiem.

W każdym przypadku mamy do czynienia z procesem optymalizacji, chociaż różne są problemy i kryteria optymalizacji.

Spis treści

1. Wprowadzenie

   1. Czym jest optymalizacja?

   2. Historia

   3. Klasyfikacja zadań optymalizacji

2. Podstawy matematyczne

   1. Wypukłość funkcji

      1. Własności funkcji wypukłych

   2. Wypukłość zbioru

   3. Układy równań liniowych

   4. Pojęcie ekstremum

      1. Warunki istnienia ekstremum funkcji jednej zmiennej

      2. Warunki istnienia ekstremum funkcji wielu zmiennych

   5. Forma kwadratowa

      1. Kwadratowa funkcja celu

   6. Wzór Taylora

      1. Szereg Taylora

   7. Zbieżność algorytmu

3. Optymalizacja liniowa

   1. Interpretacja graficzna

   2. Przykładowe problemy programowania liniowego

   3. Dualność

   4. Rozwiązania bazowe

   5. Metoda sympleksów

4. Programowanie nieliniowe

   1. Podstawowe pojęcia

   2. Optymalizacja funkcji jednej zmiennej

      1. Algorytmy bezgradientowe

         1. Algorytm dychtomii

         2. Algorytm złotego podziału

         3. Algorytm Kiefera (Fibonacciego)

      2. Algorytmy gradientowe

         1. Algorytm siecznych

         2. Algorytm Newtona

   3. Optymalizacja funkcji wielu zmiennych

      1. Metody poszukiwań prostych

         1. Metoda Hooka-Jeevesa

         2. Algorytm Neldara-Meada

      2. Metody kierunków poprawy

         1. Warunki Wolfego

         2. Warunki Goldsteina

         3. Algorytm Gaussa-Seidela

         4. Metoda najszybszego spadku

         5. Algorytm Newtona

      3. Metody mieszane

         1. Algorytm kierunków sprzężonych Powella

         2. Algorytmy gradientów sprzężonych

         3. Metody quasinewtonowskie

   4. Zadania nieliniowe z ograniczeniami

      1. Mnożniki Lagrange'a

      2. Warunki regularności

      3. Warunki Karusha-Kuhna-Tuckera

      4. Funkcje kary

         1. Wewnętrzna funkcja kary

         2. Zewnętrzna funkcja kary

5. Algorytmy genetyczne

   1. Początki algorytmów genetycznych

   2. Właściwości algorytmów genetycznych

   3. Terminologia

   4. Prosty algorytm genetyczny