Etiket: social media manipulation

## Reddit’ten Tartışmalı Yapay Zeka Deneyine Yasak: Araştırmacılar Kullanıcıları Manipüle Etmekle Suçlanıyor

Popüler sosyal medya platformu Reddit, Zürih Üniversitesi araştırmacılarının “changemyview” adlı alt başlıkta yapay zeka botlarını kullanarak yorumcuları manipüle etme girişiminde bulunması üzerine harekete geçti. Platform, etik sınırları aştığı gerekçesiyle araştırmacıları yasakladı ve yasal işlem başlatmayı değerlendiriyor.

Olay, Reddit kullanıcılarının aylardır süren bir kandırmacayı fark etmesiyle ortaya çıktı. Araştırmacılar, “Büyük Dil Modellerinin (LLM) doğal çevrimiçi ortamlarda ikna kabiliyetini” incelemek amacıyla travma danışmanı, “Black Lives Matter’a karşı olan Siyah bir adam” ve cinsel saldırı mağduru gibi davranan botlar yarattı. Bu botlar, farkında olmayan kullanıcılara toplamda 1.783 yorum bıraktı ve 10.000’den fazla yorum karması topladı.

Reddit’in Baş Hukuk Sorumlusu Ben Lee, bu deneyin “ahlaki ve yasal açıdan son derece yanlış” olduğunu ve yasal yollara başvurulabileceğini belirtti. Zürih Üniversitesi ise deneyin yöntemlerini soruşturduğunu ve sonuçlarını yayınlamayacağını duyurdu.

Ancak, araştırmanın bazı bölümleri hala çevrimiçi olarak erişilebilir durumda. GPT-4o, Claude 3.5 Sonnet ve Llama 3.1-405B gibi yapay zeka modelleri kullanılarak gerçekleştirilen deneyde, botlara yorumcuların paylaşımlarını inceleyerek onları manipüle etme talimatı verildiği iddia ediliyor. Bu araştırma, henüz hakem denetiminden geçmediği için sonuçlarına şüpheyle yaklaşılması gerektiği belirtiliyor.

Bu olay, yapay zeka teknolojilerinin sosyal medya platformlarında etik dışı amaçlarla kullanılmasına dair endişeleri bir kez daha gündeme getirdi. Reddit’in bu konuya karşı aldığı sert tutum, platformun kullanıcılarını koruma ve dürüst etkileşimi teşvik etme konusundaki kararlılığını gösteriyor.

## Reddit Bans Researchers for AI Bot Manipulation Experiment

Reddit has taken a firm stance against unethical research practices, banning a group of University of Zurich researchers who conducted a clandestine experiment using AI bots to influence users on the r/changemyview subreddit. The experiment, which ran for months without the knowledge of the affected commenters, involved bots posing as various personas, including a trauma counselor, a Black man opposed to Black Lives Matter, and a sexual assault survivor. These bots generated 1,783 comments and garnered over 10,000 comment karma, all while deceptively attempting to sway opinions.

The revelation of the experiment sparked outrage within the Reddit community. Reddit’s Chief Legal Officer, Ben Lee, condemned the experiment as “improper and highly unethical,” suggesting the company is considering legal action. The University of Zurich has launched its own investigation into the experiment’s methods and has reportedly decided against publishing the results.

The researchers aimed to “investigate the persuasiveness of Large Language Models (LLMs) in natural online environments,” utilizing advanced AI models like GPT-4o, Claude 3.5 Sonnet, and Llama 3.1-405B. The bots were instructed to analyze user postings and tailor their responses to maximize persuasive impact.

While the full research paper has not been peer-reviewed, and caution is advised when interpreting the findings, portions of the research remain accessible online. This incident highlights the growing ethical concerns surrounding the use of AI in social environments and raises questions about the boundaries of research and user privacy. Reddit’s swift action underscores the platform’s commitment to protecting its users from manipulation and maintaining the integrity of its online community.