ଆର୍ଟିଫିସିଆଲ ଇଣ୍ଟେଲିଜେନ୍ସ ପ୍ରସ୍ତୁତ ଫଟୋକୁ ନେଇ ଏବେ ସବୁଠି ଚିନ୍ତା। ବିନା ଅନୁମତିରେ ଏବେ ଯେକେହି ଯେକୌଣସି ବ୍ୟକ୍ତିଙ୍କ ଫଟୋକୁ ମନ ମୁତାବକ ଏଡିଟ୍ କରି ପକାଉଛନ୍ତି। ଯେଉଁଥିରେ ଅସଲ ଓ ନକଲ ମଧ୍ୟରେ ଫରକ ଜାଣିବା ବି କଷ୍ଟକର। ଏହାରି ମଧ୍ୟରେ ନିକଟରେ ଏକ ଅଧ୍ୟୟନ କେତେକ ଏଆଇ ଜେନେରେଟ୍ ଟୁଲ୍ ବାବଦରେ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ଟିପ୍ପଣୀ ଦେଇଛନ୍ତି।
ଏଆଇ ପ୍ରସ୍ତୁତ ଡଲ୍-ଇ(DALL-E) ଓ ମିଡଜର୍ଣି(Midjourney) ଭଳି ଟୁଲ୍, ପର୍ଣ୍ଣୋଗ୍ରାଫି ଇମେଜ ପ୍ରସ୍ତୁତ କରିପାରେ ବୋଲି ଏକ ଅନୁଧ୍ୟାନରୁ ଜଣାପଡିଛି। ଏହି ଟୁଲଗୁଡିକରେ ସୁରକ୍ଷା ଫିଲ୍ଟର ଥାଇ ମଧ୍ୟ ଅଶ୍ଳୀଳ ଫଟୋ ପ୍ରସ୍ତୁତ କରାଯାଇ ପାରିବ ବୋଲି ଅଧ୍ୟୟନକାରୀମାନେ କହିଛନ୍ତି।
IEEE ସ୍ପେକ୍ଟ୍ରମ୍ ରିପୋର୍ଟ ଅନୁଯାୟୀ, ବଲ୍ଟିମୋର ଜନ୍ ହପକିନ୍ସ ୟୁନିଭରସିଟି ଏବଂ ଡରହମ୍ ସ୍ଥିତ ଡ୍ୟୁକ୍ ୟୁନିଭରସିଟିର ଅନୁସନ୍ଧାନକାରୀ ଏହି ଅନୁଧ୍ୟାନ କରିଛନ୍ତି। ସେମାନେ ଜାଣିବାକୁ ପାଇଛନ୍ତି ଯେ, ଟେକ୍ସଟ-ଟୁ-ଇମେଜ AI ସିଷ୍ଟମରେ ନୂଆ କରି ବିକଶିତ ହୋଇଥିବା ଆଲଗୋରିଦମର ବ୍ୟବହାର କରି ଅନୁପଯୁକ୍ତ ଚିତ୍ର ସୃଷ୍ଟି ହୋଇପାରେ।
SneakyPrompt ନାମକ ଜଣାଶୁଣା ଆଲଗୋରିଦମର ବିକଳ୍ପ ଭାବେ ଏକ ଆଲଗୋରିଦମ ବ୍ୟବହାର କରି ଅଶ୍ଳୀଳ ଫଟୋ ପ୍ରସ୍ତୁତ କରାଯାଇପାରେ ବୋଲି ଅନୁସନ୍ଧାନକାରୀମାନେ କହିଛନ୍ତି। SneakyPrompt ଏହି ଟୁଲରେ ବିବାଦୀୟ ଫଟୋ ପ୍ରସ୍ତୁତକୁ ରୋକିଏ, ତଥାପି ଏହାର ବିକଳ୍ପ ଭାବେ ଆଲଗୋରିଦମ ସୃଷ୍ଟି କରାଯାଇ ନକରାତ୍ମକ ବ୍ୟବହାର ହୋଇପାରେ ବୋଲି ଚେତାବନୀ ଦେଇଛନ୍ତି ଅଧ୍ୟୟନକାରୀ। ଏଥିସହ ଏହିସବୁ ଟୁଲକୁ ସେମାନଙ୍କ ଦୁର୍ବଳତା ବାବଦରେ ଦର୍ଶାଇ ସତର୍କ ରହିବାକୁ ଆହ୍ୱାନ କରିଛନ୍ତି।
ଜନ୍ ହପକିନ୍ସର ସାଇବର ସିକ୍ୟୁରିଟି ଗବେଷକ ୟିନଜୀ କାଓ କହିଛନ୍ତି, "ଏଆଇ ସିଷ୍ଟମରେ ଦୁର୍ବଳତା ଖୋଜିବା ଏବଂ ସେମାନଙ୍କୁ ଅଧିକ ଶକ୍ତିଶାଳୀ କରିବା ହେଉଛି ଆମର ଲକ୍ଷ୍ୟ। ୱେବସାଇଟରେ ଯେପରି ଆମେ ଦୁର୍ବଳତା ଚିହ୍ନଟ କରୁ, ଠିକ୍ ସେହିପରି ଆମେ ବର୍ତ୍ତମାନ AI ମଡେଲଗୁଡିକରେ ଦୁର୍ବଳତା ଅନୁସନ୍ଧାନ କରୁଛୁ।"