Samtidig med at flere og flere har draget erfaringer med teknologien, er der også fremvokset en mere polariseret debat om, hvorvidt disse nye fremkomster indenfor KI udstikker en lysende fremtid for menneskeheden i ”sameksistens” med KI eller en mere negativ fremtid, hvor jobs overflødiggøres. Til deciderede dystopiske perspektiver, hvor ”superintelligenser” potentielt kan anvendes til udslettelse af menneskeheden, hvis ikke der indbygges reguleringer, hvor KI kun kan udføre operationer, der er i overensstemmelse med menneskelige værdier (hvis vi i øvrigt kan blive enige om dem).
Chatbots og andre typer KI kan på sigt potentielt blive en stor hjælp i mange forskellige sammenhænge, men du skal udover ovennævnte problematikker også være opmærksom på andre udfordringer, som du bør være bevidst om ved ansvarlig brug af KI. Det handler bl.a. om:
- Etiske perspektiver og chatbots evner til at hallucinere (kommer med opdigtede svar på ting modellen ikke er trænet på).
- Bias i datasættet det er trænet på fx i forhold til køn, etnicitet, kulturelt, ideologisk, politisk osv., hvilket får betydning for de svar chatbotten regner sig frem til.
- Sykonfantisme fordi chatbots er trænet til at komme med svar, der er brugervenlige og behager mennesker fremfor svar, der er faktuelt rigtige.
Altså skal du hele tiden være antropomorfiseringsbevidst (passe på ikke at tillægge chatbotten menneskelige egenskaber den slet ikke besidder) og at konversationsformen, hvor menneskelig og overbevisende den end kan tage sig ud, i bund og grund ikke er andet end sandsynlighedsberegninger ud fra træningsdata og træningsmetode, hvorfor Chatbots altså også omtales som “probabilistiske papegøjer”.
Du skal altså huske altid at være kritisk og påtage dig ansvaret som den reelle ekspert og afsender på evt. KI-generet tekst eller andet indhold.