Abstract | Naslov rada može vrlo lako sugerirati kako se obrađuje tema koja je iz područja tehničkih znanosti što ovdje nije slučaj. Sigurnost sustava umjetne inteligencije (AI) u međunarodnom pomorskom prometu je obrađena interdisciplinarnim, multidisciplinarnim i transdisciplinarnim pristupom ponajviše u području društvenih znanosti. Sukladnom navedenom, za pojam AI možemo reći kako predstavlja nepoznanicu široj javnosti i ostavlja nejasnoće u samoj integraciji sustava AI u poslovanje i/ili djelovanje određenih poduzeća i poslovnih subjekata. AI je tehnologija koja će transformirati svaki životni sloj, odnosno omogućiti će ljudskim korisnicima da na brži i točniji način analiziraju podatke, integriraju informacije, a dobivene rezultate upotrijebe za poboljšanje procesa donošenja odluka. Ovom doktorskom disertacijom, u jednom dijelu, nastoji se ukazati na prednosti i nedostatke korištenja sustava AI kroz interdisciplinarni, multidisciplinarni i transdisciplinarni pristup, odnosno na elemente kojim AI već sada mijenja svijet i istaknuti važna pitanja koja će biti usmjerena na zakonodavstvo, društvo, sigurnost, gospodarstvo i upravljanje sustavima AI. Primjerice, korištenje AI u prometnim sustavima rezultira poluautonomnim ili autonomnim vozilima / plovilima koji operaterima daju do znanja o nadolazećim zagušenjima i smetnjama, odnosno sudjeluju u izradi optimalne plovne rute s obzirom na vremenske prilike, željenu uštedu goriva i sl. Napredni senzori, moderni algoritmi te ostala softverska i hardverska rješenja u određenom dijelu već sada mogu zamijeniti ljudsko iskustvo i time smanjiti mogućnost za pogreške. Sukladno navedenom, poseban naglasak stavljen je na sigurnost sustava AI u međunarodnom pomorskom prometu s pripadajućim dodatnim istraživanjima. Dodatna istraživanja temeljila su se pravnoj regulaciji AI u međunarodnom pomorskom prometu i komparativnoj analizi pravnih izvješća iz područja AI za izabrane države. Pravni okvir AI u međunarodnom pomorskom prometu temeljio se na ključnim međunarodnim pomorskim organizacijama, odnosno pravnim aktima koji uređuju pomorsko gospodarstvo i mogućoj potrebi za ažuriranjem istih sukladno nadolazećoj primjeni AI u međunarodnom pomorskom prometu. Nakon obrade temeljnih pravnih akata u povezivosti s AI naglasak je stavljen na primjenu AI u društvu i njen društveni utjecaj. Shodno tome razrađena je povijest razvoja AI i sami razvoj pomorske navigacije te su razjašnjeni pojavni oblici sastavnica AI. Ovim radom nastojala se definirati sama AI, odnosno istinska AI s forenzičkog aspekta što može rezultirati vrijednim znanstvenim doprinosom, posebice ako se u obzir uzmu nebrojeni pokušaji svjetskih stručnjaka da se AI definira na ujednačen način. S obzirom da društvene vrijednosti i etičke norme predstavljaju značajne odrednice u razvoju umjetnih sustava koji bi donosili odluke umjesto i uz pomoć ljudi, Etičke smjernice za stvaranje pouzdane AI su posebno obrađene u društvenom dijelu ovog rada. U tu kategoriju spadaju načelo ljudske autonomije, načelo sprječavanja nastanka štete, načelo pravednosti i objašnjivosti kao i ljudsko djelovanje i nadzor, te tehnička otpornost i sigurnost sustava, privatnost, transparentnost, raznolikost, nediskriminacija, dobrobit društva i okoliša, ali i odgovornost. Nadovezujući se na Etičke smjernice djelovanja sustava AI obrađeni su elementi koji su nužni u stvaranju takvih sustava i stjecanju povjerenja u njih. To uključuje elemente poput objašnjivosti i odgovornosti sustava AI, odnosno provjerljivosti i pravednosti. S obzirom na to da će AI imati značajan utjecaj na društvo u poslovnom kontekstu posebno je analizirano stanje u svijetu poslova s naglaskom na međunarodni pomorski promet, prilike i izazovi, odnosno mogućnosti i ograničenja AI u tom aspektu društvenog djelovanja. Kao potpora tezi da će AI imati značajan društveni utjecaj radom su analizirani su i tzv. Asilomarski principi AI, odnosno moralne i etičke dileme koje mogu proizaći iz upotrebe AI u društvu i značajnim gospodarskim subjektima. Naposljetku, skrenuta je i pozornost na ekonomske faktore upotrebe AI u društvu, odnosno utjecaju na bruto domaći proizvod (BDP) i potencijalne reforme poreznog sustava. U trećem dijelu ove doktorske disertacije analizirana je upotreba sustava AI u međunarodnom pomorskom prometu, odnosno sigurnost istog. Uvodno je napravljen pregled elektroničkih navigacijskih uređaja kao onih uređaja koji bi tvorili podsustave sustava AI u međunarodnom pomorskom prometu. Upotreba AI u pomorstvu ponajviše se očituje kroz autonomne brodove, digitalne luke, virtualne asistente, preciznoj obradi dokumenata i ekološki prihvatljivim pristupom upotrebe AI. S obzirom da je autonomna navigacija „najzvučniji“ sustav koji bi koristio AI, isti su posebno analizirani kroz prizmu odgovornosti upravljanja AI takvim plovilima, odnosno ukazane su prednosti i nedostaci sustava AI u autonomnim plovila što je rezultiralo modelom poboljšanja postojećih sustava. Također, znanstveni doprinos ovog rada se može očitovati i u analiziranju sigurnosnog i tehničkog nadzora brodskih elektroničkih navigacijskih uređaja i modela određivanja sigurnosti sustava AI u međunarodnom pomorskom prometu. Uzimajući u obzir da su sustavi AI temeljeni na „online“ djelovanju bilo lokalno ili globalno, posebno se istražila sigurnost sustava AI u kibernetičkom prostoru. Stavljajući naglasak na prevenciju umjesto na sanaciju mogućih kibernetičkih ugroza važno je donijeti ključne planove i procedure za sustave AI na brodu odnosno identificirati prijetnje i ranjivosti te procijeniti vjerojatnost da se kibernetička ugroza može dogoditi, te kakav će utjecaj imati i koji rizik to nosi. Naposljetku, takav pristup ima za cilj razviti mjere zaštite kao i detekcijske mjere i pružiti odgovor na moguće kibernetičke incidente. Svi navedeni elementi za krajnji cilj imaju povećati sigurnost sustava AI u međunarodnom pomorskom prometu. |
Abstract (english) | The title of the paper can very easily suggest that a topic is from the field of technical sciences, which is not the case here. The security of Artificial Intelligence systems (AI) in international maritime transport is addressed by an interdisciplinary, multidisciplinary and transdisciplinary approach, especially in the field of social sciences. Accordingly, the term AI can be said to represent a technology that will transform every layer of life, ie it will enable human users to analyze data, integrate information in a faster and more accurate way, and use the obtained results to improve the decision-making process. This doctoral dissertation, in one part, tries to point out the advantages and disadvantages of using the AI systems through an interdisciplinary, multidisciplinary, and transdisciplinary approach, ie point out the elements by which AI is already changing the world and highlight important issues that will focus on legal aspects, society issues, security challenges, economy and management of AI systems. AI systems can learn and adapt in decision making process. For example, the use of AI in transport systems results in semi-autonomous or autonomous vehicles / vessels that inform operators about upcoming traffic jams and distrubances, or participate in the creation o fan optimal navigation route concering weather conditions, desired fuel savings, etc. Advanced sensors, modern algorithms and othet software and hardware solutions in a certain part, already now, can replace human operators and their experience and thus reduce the possibility of errors. Following the above, special emphasis is placed on the safety of the AI system in international maritime transport with the accompanying additional research. Additional research was based on the legal regulation of AI in international maritime transport and a comparative analysis of legal reports in the field of AI for selected countries. The legal framework of AI in international maritime transport was based on key international maritime organizations and legal acts governing the maritime economy and the possible need to update them following the forthcoming application of AI in international maritime transport. After the processing of basic legal acts regarding the AI, the emphasis was placed on the application of AI in society and its social impact. Accordingly, the history of AI development and the development of maritime navigation itself have been elaborated, and the manifestations of AI components have been clarified. This disertation tried to define the AI 399 itself, ie the true AI from the forensic standpoint, which can result in a valuable scientific contribution, especially if we take into account the countless attempts of world experts to define the AI uniformly. Given that social values and ethical norms are important determinants in the development of artificial systems that would make decisions instead of and with the help of people, Ethical gAIdelines for trustworthy AI are specifically addressed in the social part of this paper. This category includes the principle of human autonomy, the principle of harm prevention, the principle of fairness and explainability as well as human action and supervision, and technical resilience and security of the system, privacy, transparency, diversity, nondiscrimination, social and environmental well-being and responsibility. Building on the Ethical Guidelines, the elements necessary for the creation of such systems and gaining trust in them are discussed. This includes elements such as the explainability and accountability of the AI system, ie verifiability and fairness. Given that AI will have a significant impact on society in the business aspect, the situation in the world of business is especially analyzed with emphasis on international maritime transport, opportunities and challenges and advantages and limitations of AI in this aspect of social action. In support of the thesis that AI will have a significant social impact, the so-called Asilomar principles of AI are analyzed, ie moral and ethical dilemmas that may arise from the use of AI in society and significant economic entities. Finally, attention was drawn to the economic factors of the use of AI in society, ie the impact on gross domestic product (GDP) and potential reforms of the tax system. In the third part of this doctoral dissertation, the emphasis is placed on the use of AI in international maritime transport, i.e. its safety. An introductory overview of electronic navigation devices as those devices that would form subsystems of the AI system in international maritime transport was made. The use of AI in maritime affairs is mostly manifested through autonomous ships, digital ports, virtual assistants, precise document processing and an environmentally friendly approach. Since autonomous vessels are most known systems that would use AI, they are specifically analyzed through the prism of AI management responsibilities of such vessels, ie the advantages and disadvantages of AI systems in autonomous vessels are indicated, which resulted in a model of improving existing systems. Also, the scientific contribution of this paper can be valued through the analysis of safety and technical supervision of ship electronic navigation devices and the model for determining the safety of the AI system in international maritime traffic. Considering that AI systems are based on online operations either locally or globally, the security of AI systems in cyberspace has been specifically analyzed. With an emphasis on prevention rather than remediation of potential cyber threats, it is important to adopt key plans and procedures for on-board AI systems, identify threats and vulnerabilities, and assess the likelihood that cyber threats may occur, and what impact and risk it will carry. Finally, such an approach aims to develop protection measures as well as detection measures and provide a response to possible cyber incidents. All these elements have the ultimate goal of increasing the safety of the AI system in international maritime traffic. |