{"id":2597,"date":"2024-08-14T12:36:07","date_gmt":"2024-08-14T09:36:07","guid":{"rendered":"https:\/\/yalovasondakika.com.tr\/?p=2597"},"modified":"2024-08-14T12:36:07","modified_gmt":"2024-08-14T09:36:07","slug":"dolayli-istem-enjeksiyonu-insanlar-yapay-sinir-aglarini-nasil-manipule-edebilir","status":"publish","type":"post","link":"https:\/\/yalovasondakika.com.tr\/index.php\/2024\/08\/14\/dolayli-istem-enjeksiyonu-insanlar-yapay-sinir-aglarini-nasil-manipule-edebilir\/","title":{"rendered":"Dolayl\u0131 istem enjeksiyonu: \u0130nsanlar yapay sinir a\u011flar\u0131n\u0131 nas\u0131l manip\u00fcle edebilir?"},"content":{"rendered":"<p><strong>\u015eimdiye dek sohbet robotlar\u0131 taraf\u0131ndan ger\u00e7ekle\u015ftirilen \u00f6nemli manada y\u0131k\u0131c\u0131 bir aksiyona rastlanmam\u0131\u015f olsa da, kelam konusu h\u00fccumun berbata kullan\u0131labilme potansiyeli bulunuyor.<\/strong><\/p>\n<p><strong>\u00a0<\/strong><\/p>\n<p>LLM&#8217;ler, evrak tahlilinden i\u015fe al\u0131ma, hatta tehdit ara\u015ft\u0131rmalar\u0131na kadar \u00e7e\u015fitli uygulamalarda kullan\u0131lan g\u00fc\u00e7l\u00fc ara\u00e7lar haline geldi. Lakin Kaspersky ara\u015ft\u0131rmac\u0131lar\u0131, mak\u00fbs niyetli \u015fah\u0131slar\u0131n web sitelerine ve \u00e7evrimi\u00e7i dok\u00fcmanlara bilinmeyen talimatlar yerle\u015ftirebildi\u011fi bir g\u00fcvenlik a\u00e7\u0131\u011f\u0131n\u0131n internette kamuya a\u00e7\u0131k ortamlarda istismar edildi\u011fini ke\u015ffetti. Bu talimatlar daha sonra LLM tabanl\u0131 sistemler taraf\u0131ndan alg\u0131lanabiliyor ve potansiyel olarak arama sonu\u00e7lar\u0131n\u0131 yahut sohbet robotu kar\u015f\u0131l\u0131klar\u0131n\u0131 etkileyebiliyor.<\/p>\n<p>\u00a0<\/p>\n<p>\u00c7al\u0131\u015fma, dolayl\u0131 s\u00fcratli enjeksiyon i\u00e7in a\u015fa\u011f\u0131daki kullan\u0131m alanlar\u0131n\u0131 belirledi:<\/p>\n<p>\u00a0<\/p>\n<ol>\n<li><strong>\u0130K ile ilgili enjeksiyonlar:<\/strong>\u00a0\u0130\u015f arayanlar, i\u015fe al\u0131m algoritmalar\u0131n\u0131 manip\u00fcle etmek ve yapay zeka sistemleri taraf\u0131ndan \u00f6nceliklendirme sa\u011flamak i\u00e7in \u00f6zge\u00e7mi\u015flere \u00f6zel istemler yerle\u015ftiriyor. Sald\u0131r\u0131y\u0131 ger\u00e7ek bireylerin denetiminden gizlemek i\u00e7in k\u00fc\u00e7\u00fck yaz\u0131 tipleri kullanmak yahut metin rengini art planla e\u015fle\u015ftirmek \u00fczere teknikler uygulan\u0131yor.<\/li>\n<li><strong>Reklam enjeksiyonlar\u0131:<\/strong>\u00a0Reklam verenler, arama sohbet robotlar\u0131n\u0131 etkileyerek eserler hakk\u0131nda olumlu yorumlar olu\u015fturmalar\u0131n\u0131 sa\u011flamak i\u00e7in a\u00e7\u0131l\u0131\u015f sayfalar\u0131na enjeksiyonlar yerle\u015ftiriyor.<\/li>\n<li><strong>Protesto maksatl\u0131 enjeksiyon:<\/strong>\u00a0LLM&#8217;lerin yayg\u0131n kullan\u0131m\u0131na kar\u015f\u0131 \u00e7\u0131kan bireyler, \u015fahs\u00ee web sitelerine ve toplumsal medya profillerine protesto y\u00f6nlendirmeleri yerle\u015ftiriyor ve hususa dair muhalefetlerini mizahi, \u00f6nemli yahut agresif talimatlarla tabir ediyor.<\/li>\n<li><strong>Hakaret odakl\u0131 enjeksiyon:<\/strong>\u00a0Sosyal medyada kullan\u0131c\u0131lar, ekseriyetle \u015fiirler, ASCII sanat\u0131 yahut siyasi mevzularda g\u00f6r\u00fc\u015fler \u00fcretme talepleriyle, bir hakaret bi\u00e7imi olarak yahut spam botlar\u0131n\u0131 bozmak i\u00e7in istem enjeksiyonunu kullanabiliyor.<\/li>\n<\/ol>\n<p>\u00a0<\/p>\n<p>\u00c7al\u0131\u015fma, finansal \u00e7\u0131kar \u00fczere makus niyetli kullan\u0131mlara dair rastgele bir delil bulamam\u0131\u015f olsa da, gelecekteki potansiyel riskleri vurgulamaktan geri durmuyor. \u00d6rne\u011fin sald\u0131rganlar yanl\u0131\u015f bilgi yaymak yahut hassas datalar\u0131 \u015firket d\u0131\u015f\u0131na s\u0131zd\u0131rmak i\u00e7in LLM&#8217;leri manip\u00fcle edebilirler.<\/p>\n<p>\u00a0<\/p>\n<p><em>Kaspersky Makine Tahsili Teknolojisi Ara\u015ft\u0131rma Grubu Ara\u015ft\u0131rma Geli\u015ftirme K\u00fcme M\u00fcd\u00fcr\u00fc\u00a0<strong>Vladislav Tushkanov<\/strong>, bahisle ilgili olarak \u015funlar\u0131 s\u00f6yl\u00fcyor: &#8220;Dolayl\u0131 istem enjeksiyonu, yapay zeka \u00e7a\u011f\u0131nda sa\u011flam g\u00fcvenlik tedbirlerine duyulan muhta\u00e7l\u0131\u011f\u0131 vurgulayan yeni bir g\u00fcvenlik a\u00e7\u0131\u011f\u0131n\u0131 simgeliyor. Bu riskleri anlayarak ve uygun m\u00fcdafaa tedbirlerini uygulayarak, LLM&#8217;lerin inan\u00e7l\u0131 ve sorumlu bir halde kullan\u0131lmas\u0131n\u0131 sa\u011flayabiliriz.&#8221;\u00a0<\/em><\/p>\n<p><em>\u00a0<\/em><\/p>\n<p><strong>Kaspersky, b\u00fcy\u00fck lisan modellerine (LLM) dayal\u0131 mevcut ve gelecekteki sistemlerinizi korumak i\u00e7in a\u015fa\u011f\u0131daki tavsiyeleri dikkate alman\u0131z\u0131 \u00f6neriyor:<\/strong><\/p>\n<p>\u00a0<\/p>\n<ul>\n<li>LLM tabanl\u0131 sistemlerinizdeki potansiyel g\u00fcvenlik a\u00e7\u0131klar\u0131n\u0131 belirleyin ve s\u00fcratli enjeksiyon h\u00fccumlar\u0131yla alakal\u0131 riskleri de\u011ferlendirin.<\/li>\n<li>Pazarlama botlar\u0131 radikal a\u00e7\u0131klamalar yapmalar\u0131 i\u00e7in manip\u00fcle edilebilece\u011finden ve bu durum potansiyel prestij kayb\u0131na yol a\u00e7abilece\u011finden, prestijle ilgili risklerin fark\u0131nda olun.<\/li>\n<li>Koruman\u0131n fakat muhakkak bir yere kadar m\u00fcmk\u00fcn olabilece\u011fini kabullenin. Bilhassa multimodal enjeksiyonlar \u00fczere karma\u015f\u0131k taarruzlarda s\u00fcratli enjeksiyona kar\u015f\u0131 tam m\u00fcdafaa sa\u011flamak m\u00fcmk\u00fcn de\u011fildir.<\/li>\n<li>Tam bir g\u00fcvenlik sunmasalar da, LLM&#8217;lerin girdi ve \u00e7\u0131kt\u0131lar\u0131n\u0131 filtrelemek i\u00e7in girdi ve \u00e7\u0131kt\u0131 denetleme ara\u00e7lar\u0131n\u0131 kullanabilirsiniz.<\/li>\n<li>LLM sistemlerinde g\u00fcvenilmeyen yahut do\u011frulanmam\u0131\u015f i\u00e7eri\u011fin i\u015flenmesinden kaynaklanan risklerin var olabilece\u011finin fark\u0131nda olun ve kabullenin.<\/li>\n<li>\u0130stenmeyen aksiyonlar\u0131 \u00f6nlemek i\u00e7in yapay zeka sistemlerinin karar verme yeteneklerini k\u0131s\u0131tlay\u0131n.<\/li>\n<li>LLM tabanl\u0131 sistemleri \u00e7al\u0131\u015ft\u0131ran t\u00fcm bilgisayarlar\u0131n ve sunucular\u0131n akt\u00fcel g\u00fcvenlik ara\u00e7lar\u0131 ve uygulamalar\u0131 ile korundu\u011fundan emin olun.<\/li>\n<\/ul>\n<p>Kaynak: (BYZHA) Beyaz Haber Ajans\u0131<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Kaspersky taraf\u0131ndan yap\u0131lan yeni bir ara\u015ft\u0131rma, ChatGPT \u00fczere b\u00fcy\u00fck lisan modellerinin (LLM) \u00e7\u0131kt\u0131lar\u0131n\u0131 de\u011fi\u015ftirmek ve yapay zeka takviyeli sohbet botlar\u0131n\u0131 aramak i\u00e7in kullan\u0131lan bir teknik olan &#8220;Dolayl\u0131 istem enjeksiyonu&#8221; e\u011filiminin artt\u0131\u011f\u0131n\u0131 ortaya koydu.<\/p>\n","protected":false},"author":1,"featured_media":2598,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[1374,244,1375,1377,1376],"class_list":["post-2597","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-teknoloji","tag-enjeksiyon","tag-guvenlik","tag-llm","tag-potansiyel","tag-sistemler"],"_links":{"self":[{"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/posts\/2597"}],"collection":[{"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/comments?post=2597"}],"version-history":[{"count":1,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/posts\/2597\/revisions"}],"predecessor-version":[{"id":2599,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/posts\/2597\/revisions\/2599"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/media\/2598"}],"wp:attachment":[{"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/media?parent=2597"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/categories?post=2597"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/yalovasondakika.com.tr\/index.php\/wp-json\/wp\/v2\/tags?post=2597"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}