AR-GE projelerinin önceliklendirilmesi ve seçimi üzerine çok kriterli bir model önerisi
A multi-criteria model proposal on prioritization and selection of R&D projects
Yazar: GİZEM FİLİZ TÜRKMEN
Danışman: PROF. DR. YUSUF İLKER TOPCU
İstanbul Teknik Üniversitesi / Lisansüstü Eğitim Enstitüsü / Endüstri Mühendisliği Ana Bilim Dalı / Endüstri Mühendisliği Bilim Dalı
Derece: Doktora, 2022
Konu: Endüstri ve Endüstri Mühendisliği = Industrial and Industrial Engineering
Dizin: Araştırma-geliştirme = Research-development ; Matematiksel yöntemler = Mathematical methods ; Proje seçimi = Project selection

Özet:
Ülkeler için güçlü AR-GE politikalarının kaçınılmaz bir gereksinim halini aldığı bilişim çağını yaşamaktayız. Üniversiteler, özel şirketler, kamu kurum ve kuruluşları bir yandan AR-GE çalışmaları yapmak, bir yandan da yapılan çalışmaları desteklemek, fonlamak ve bu ekosistemin parçası olan tüm unsurları güçlendirmek için büyük çaba sarfetmekteler. Bu nedenle AR-GE proje seçimi problemi, dev bütçeleri ve çok büyük kitleleri etkileyen kritik bir karar verme problemi olarak her gün daha fazla önem kazanmakta. Bu devasa ekosistemdeki her bir paydaş AR-GE projelerini kendi hedef ve çıkarları doğrultusunda ele almakta ve bu doğrultuda faaliyetlerine devam etmekteler. Bu çalışmada sözü edilen karar verme modeli ise AR-GE yapan ve ticari gelir elde etmeyi amaçlayan şirketlerin AR-GE proje seçimi çalışmalarını konu almakta ve çok kriterli karar verme problemi olarak analitik bir yaklaşımla değerlendirmektedir. Ülkemizin en büyük teknoparklarından birinde AR-GE çalışmaları yürüten firmalar ile gerçekleştirilen görüşmeler sonucunda, AR-GE proje seçiminin veriye dayalı analitik yaklaşımlarla yapılmasında saptanan eksikliğin giderilmesi bu çalışmanın temel motivasyonu olmuştur.

Science Direct ve Wiley veri tabanlarında yapılan AR-GE proje seçimi konulu literatür araştırması sonucunda 83 çalışmanın detaylı analizini içeren EK A hazırlanmış, literatürün istatistiksel analizi sunulmuş ve AR-GE projesi seçiminde kullanılan yöntemler özetlenmiştir. Ayrıca, literatürde AR-GE proje seçimi ile AR-GE proje portfolyosu seçimi olarak geçen kavramların aynı manaya gelecek biçimde kullanımı sonucu ortaya çıkan kargaşayı gidermek üzere öneriler sunulmuştur.

Literatür taramasını izleyen bölümde, önerilen yöntemin basamakları özetlenmektedir. Burada bahsedildiği gibi, ilk aşama kriter havuzunun oluşturulması ve ikinci aşama AR-GE proje seçimi kriterlerinin belirlenmesidir. Üçüncü aşama, kriterler arasındaki ilişkilerin analizidir ve dördüncü aşamada AAS ile kriter önemlerinin bulunması açıklanmaktadır. Beşinci aşama projelerin kriterlere göre performans değerlerinin, altıncı aşama ise global proje performanslarının eldesidir. Yedinci aşama proje portföyünün optimizasyonudur ve son aşama ise parametrelerdeki değişimlerin sonuç üzerindeki etkisinin irdelenmesidir.

Önerilen AR-GE proje seçimi modelinin ilk aşamasında, literatür taramasında incelenen araştırmalardan yola çıkılarak AR-GE proje seçimi kriterleri için bir ön liste hazırlanmıştır. Bu liste göz önünde bulundurularak, uzmanlardan kriterler hakkındaki görüşleri alınmış ve 39 kriterden oluşan nihai AR-GE proje seçim kriterleri listesi oluşturulmuştur. Bilişsel haritalama yöntemi ile kriterler arası ilişkiler incelenmiş ve modelin yapısının ağ olarak ele alınmasının daha uygun olduğu görülmüştür. Uzmanlara ikili karşılaştırma anketi gönderilerek sonuçlar toplanmış ve Analitik Ağ Süreci (AAS; Analytic Network Process - ANP) ile kriter önemleri hesaplanmıştır.

Söz konusu 39 kritere göre proje performanslarının bulunması aşamasında 1a, 1b, 2a, 2b, 2c, 3a, 4a, 4b, 5a, 5b, 7b, 8a, 9a, 9b, 9c, 10a, 10b, 10c, 11a, 11b, 11c, 11d, 12b, 13a, 13b, 14a, 14b, 14c, 15a ve 15b kriterleri için derecelendirme; 1c, 6a ve 6b kriterleri için bulanık TOPSIS (Technique for Order of Preference by Similarity to Ideal Solution); 7a kriteri için olası net bugünkü değer analizi; 12a kriteri için karar ağacı; 16a, 16b, 17a ve 18a kriterleri için bulanık risk değerlendirme yönteminden faydalanılmıştır. Derecelendirme yönteminden faydalanılan değerlendirmelerde karar verici her bir kriter için projelere 1-100 arasında bir performans puanı vermiştir. Bulanık TOPSIS değerlendirmelerinde karar vericiden her bir kriter için ölçütler tanımlaması ve bu ölçütlerin önemini belirlemek amacı ile bulanık ifadeler seçmesi istenmiş, ardından her bir ölçüt için bulanık ifadeler seçerek proje performaslarını değerlendirmiştir. Net bugünkü değer analizi çalışmaları her bir projenin gerçek finansal değerinden faydalanılarak gerçekleştirilmiştir. Karar ağacı çalışmasında, her bir proje için ürün pazara sürüldükten sonraki 1 yıllık gelir tahminlerini baz alan pazar analizi ortaya konmuştur. Bulanık risk değerlendirme çalışmalarında ise karar verici tarafından her bir kriter için belirlenen risklerin gerçekleşme olasılığı ve gerçekleşmesi durumunda ortaya çıkacak etki, yamuk bulanık sayılar yardımıyla belirlenmiş ve bulanık risk değerleri hesaplanmıştır.

Her bir kriter için bulunan proje performansları, AAS ile bulunan kriter önemleriyle çarpılarak her bir projenin global performans puanı elde edilmiştir. Buna göre, beşinci proje 84.56 puan, üçüncü proje 73.58 puan, dördüncü proje 73.53 puan, ikinci proje 72.88 puan ve birinci proje 52.20 puan almıştır. Projelerin global performans puanlarına göre sıralanması Proje 5, Proje 3, Proje 4, Proje 2, Proje 1 şeklindedir.

Sonuçların değerlendirilmesi ve senaryo analizi yapılması amacıyla hedefler, mevcut kaynak kısıtları ve karar vericinin tercihleri çerçevesinde hangi projelerin gerçekleştirilmesinin şirket için daha iyi olacağını ortaya koyan bir optimizasyon modeli tasarlanmıştır. Kurulan hedef programlama modelinin sonuçları ve senaryo analizleri sunulmuştur. Buna göre, firmanın kaynak kısıtlarını ve stratejik hedeflerini ele alarak optimizasyon yapmadan, global proje puanlarının yüksekten düşüğe sıralanması ile proje seçimi yapması durumunda Proje 5 ile 3'ün yapılmasına karar verilebileceği, oysaki kaynak kısıtlarını ve stratejik hedefleri göz önüne alan hedef programlama modelinin çıktılarına göre Proje 2, 3 ve 4'ün yapılmasının daha uygun olduğu ortaya konmuştur. Öte yandan senaryo analizi sonuçları ise hedef ve kısıtların farklı belirlendiği koşullar altında Proje 2 ve 4'ün veya Proje 1, 2 ve 5'in yapılmasının daha uygun olabileceğini göstermektedir.

Sonuç olarak bu doktora tezi kapsamında, AR-GE proje seçimi için bir çok kriterli karar verme modeli tasarlanmış ve bu model beş potansiyel projeyi değerlendirmeyi planlayan bir AR-GE firmasında uygulanmıştır. Böylece, firmanın kendi strateji ve kısıtları doğrultusunda uygun AR-GE projelerini gerçekleştirmesini sağlayacak bir çözüm önerisi sunulmuştur.

Abstract:
Strong research and development (R&D) strategies became an inevitable requirement for countries in the information age. Nowadays, universities, companies, public institutions, and organizations make great efforts to carry out, support, and fund the R&D studies. They endeavor to strengthen all the elements that are part of this ecosystem. R&D operations have gained significant importance for companies aiming to survive and succeed in the business world. Therefore, R&D budgets were increased day by day, while selecting and funding R&D projects became an important problem. Moreover, the characteristics of R&D projects, such as difficulties in determining the budget, estimating the duration of projects, high level of project risks, and unforeseen problems caused by uncertainty, make the problem more complicated for decision-makers. Each stakeholder in the R&D ecosystem discusses the problem in line with their own goals and interests. This thesis's main purpose is to build a decision-making model that can be used for R&D project selection processes conducted by institutions and organizations that carry out R&D projects. As an application of the proposed model, the evaluation of five projects at an R&D company in information technologies is discussed. The main motivation of this study was to eliminate the deficiency of R&D project selection approaches utilizing data-based analytical methods in R&D companies that reside in one of the largest technology and science parks in Turkey.

The decision-maker in the case study is the co-founder & CEO of the company. In their pipeline, the company has five candidate R&D projects for their five different potential customers. However, their resource is not enough to take on all projects since they have a small team and limited source. Therefore, they need to evaluate projects and decide which projects they would like to focus on. Project 1, named Smart Home, is a smart home mobile application that controls electric, water, and gas resources, electrical appliances, security systems, lightings, and temperature of rooms. Project 2, named VasGateway, is a gateway that combines different mobile operators, platforms, and protocols for mobile applications. Project 3, named Prime, develops a location-based smart notification system for mobile applications. Project 4, named Mirket, is a location-based restaurant revenue maximization solution that depends on customer behaviors and patterns. Finally, Project 5, named Smart Hotel, is a mobile application for hotels. It can open room doors, manage check-in/check-out processes, place an order from restaurants, book a table in the restaurant, book treatments from spa/hairdresser, manage laundry requests, etc., in the hotel.

First of all, the literature was reviewed, and main findings were highlighted. As a result of the literature search in Science Direct and Wiley databases, Annex A, which includes a detailed analysis of 83 studies, was prepared. Statistical analysis of the literature was presented, and the methods used in R&D project selection were summarized. Accordingly, the R&D selection problem has observed an increasing interest from researchers in recent years. The number of studies increased 200% in the '90s and '2000s. The majority of research has been conducted in the US, China, South Korea, Taiwan and UK. Different types of decision makers, e.g. public sector, private sector, public funds and investors, were observed, which have different approaches and project selection criteria depending on their objectives. Various solution approaches were obtained from the literature, such as mathematical programming, multi-criteria decision-making, and financial methods. The most frequently used methods are Fuzzy Logic and Linear Integer Programming followed by Scoring, DEA, DSS, AHP, Ranking and Real Options Theory. Addition to highlights, a common confusion, which caused by using the same meaning for "R&D Project Selection" and "R&D Portfolio Selection" terms, was determined and distinct definitions for these two terms were proposed.

Secondly, a pool of R&D project selection criteria was extracted from the literature review. Considering this pool, a pre-list was created, and the final list of R&D project selection criteria list was formed by obtaining the experts' opinions. Experts' opinions are gathered together utilizing the Delphi approach which is a structured and systematic communication technique that collects information from experts and reaches a group consensus.

Third, the relationships between the criteria were examined with the cognitive mapping method by taking experts' group decisions. The cognitive mapping approach, introduced by Tolman (1948) in the psychology area and generalized to determine causal relationships in different disciplines by Eden in 1988, forms the relationship structure among selection criteria within this study. It was found that it is more suitable to consider the structure of the model as a network rather than a hierarchy since a significant number of relationships among criteria were obtained in the cognitive map. Thus, the importance of criteria was calculated by utilizing the Analytic Network Process. The pairwise comparisons survey was shared with experts and choosing one of the linguistic definitions from the scale was requested to determine the relationship among criteria. Answers were collected, and the group decision was obtained. Then, importance of 39 criteria were derived by help of the Super Decisions software.

Fourth, the performance of projects by 39 criteria were obtained via several methods defined by decision maker considering attributes, available data and company-specific dynamics. Rating method was preferred for criteria 1a, 1b, 2a, 2b, 2c, 3a, 4a, 4b, 5a, 5b, 7b, 8a, 9a, 9b, 9c, 10a, 10b, 10c, 11a, 11b, 11c, 11d, 12b, 13a, 13b, 14a, 14b, 14c, 15a and 15b. Fuzzy TOPSIS (Technique for Order of Preference by Similarity to Ideal Solution) was preferred for criteria 1c, 6a and 6b. Expected net present value analysis was preferred for criterion 7a. Decision tree analysis was preferred for criterion 12a and fuzzy risk evaluation was used for criteria 16a, 16b, 17a and 18a. In the rating method evaluations, the decision maker assigned the projects a performance score between 1-100 for each criterion. In fuzzy TOPSIS evaluations, the decision maker was asked to define attributes for each criterion. Then, choose linguistic expressions to determine the importance of these attributes and performance of projects for each attribute. Thus, project performances were evaluated by fuzzy TOPSIS. Net present value analysis calculations were carried out by utilizing the real financial value of each project. In the decision tree study, a market analysis based on the 1-year revenue estimations after the product launch for each project is revealed. In fuzzy risk assessment studies, the fuzzy probability of realization of the risks and the impact of potential risks were determined by the decision maker for each criterion and fuzzy risk values were calculated with the help of trapezoidal fuzzy numbers.

Fifth, the global performance of each project was obtained by multiplying the project scores for each criterion utilized by methods defined above with the criteria importance obtained by Analytic Network Process. According to the results, the first project got 52.20 points, the second project got 72.88 points, the third project got 73.58 points, the fourth project got 73.53 points, and the fifth project got 84.56 points. Hence, the projects can be ranked as Project 5, Project 3, Project 4, Project 2, and Project 1 according to their global performances.

Finally, an optimization model, which analyzes projects by considering goals, resource constraints, and decision maker's preferences, was designed to evaluate the best project portfolio and make scenario analysis. Optimization results and scenario analysis of the goal programming model were presented. Accordingly, if decision maker selects projects by considering only the project evaluation scores without an optimization, the company may decide to run Project 5 and 3. However, according to the outputs of the goal programming model, which takes resource constraints and strategic goals into consideration, it has been proved that it is more suitable to carry out Projects 2, 3, and 4. On the other hand, scenario analysis results show that Projects 2 and 4 or Projects 1, 2, and 5 could be appropriate under different conditions where goals and constraints were adjusted.

As a result, within the scope of this PhD thesis, a multi-criteria decision making model was designed to solve R&D project selection and the proposed model was implemented in an R&D firm that plans to evaluate five potential projects. Thus, a solution approach has been presented to enable the company to carry out appropriate R&D projects in line with its own strategies and constraints. The proposed framework could be applied in different case studies for further research, and results could be compared with this study's outputs. Another exciting research subject could be implementing developments in the artificial intelligence area and recent trends in data collection and procession techniques to the R&D project selection problem.