ChatGPT'nin piyasaya sürülmesinden bu yana çok fazla ilerleme kaydettiği bir gerçektir. Aslında insanlara yardım ettiği konuları oldukça çeşitlendirmiş. Tezlerden ödevlere, araştırma projelerine kadar pek çok akademik çalışmada kullanılan ChatGPT, aynı zamanda kötüye de kullanılıyor.
CHATGPT KANDIRILABİLİR Mİ?
Suçları ve yasa dışı faaliyetleri araştırmak için de kullanılabilecek ChatGPT, şu soruyu gündeme getirdi: kandırılabilir mi? Teknik olarak evet ama çok kolay olduğu söylenemez.
OpenAI, ChatGPT'nin kötü amaçlara hizmet etmesini önlemek için özel algoritmalar geliştirmiş olsa da bunu tamamen engelleyemedi. Öte yandan, bazı kullanıcılar ChatGPT'yi kandırarak chatbot'un yanıtlamaması gereken soruları yanıtlamasını sağlamanın yollarını bulmuşlardır. Ancak genel olarak bunlar kısa vadelidir ve sürdürülebilir değildir. OpenAI fark edildikten sonra genellikle bunları hızlı bir şekilde devre dışı bırakır.
Carnegie Mellon Bilgisayar Bilimleri Okulu'nda doçent olan Matt Fredrikson, konu hakkında PCMag'e bazı açıklamalarda bulundu. Sonuç olarak ChatGPT gibi AI güvenlik duvarlarını kırmak çok zor değil ancak standart kullanıcıların bunu evde yapması da kolay değil. Doğrudan bu iş için geliştirilen yazılımlarla yapay zekanın kademeli olarak 24 saat içinde yüzbinlerce isteğe ikna edilebilecek seviyeye getirilmesi mümkün.
ChatGPT'yi kendi başınıza kırmanız pek mümkün değildir. Ancak chatbot'un yanıtlamaması gereken soruları yanıtlamasını sağlamanın yaratıcı yollarını bulabilirsiniz. Sonuçta bu geçmişte birçok kullanıcı tarafından yapıldı. Reddit gibi sosyal medya platformlarında biraz araştırma yaparsanız