Methods of Identifying Fake News: A Systematic Review Study
Subject Areas : CommunicationKarim Shabani 1 , ali geranmayeh 2 , Shahnaz Hashemi 3
1 - دانشجوی دکتری علوم ارتباطات اجتماعی، واحد بین‌الملل قشم، دانشگاه آزاد اسلامی، قشم، ایران
2 - استادیار، گروه علوم ارتباطات، واحد تهران مرکزی، دانشگاه آزاد اسلامی، تهران، ایران
3 - عضو هیأت علمی پژوهشگاه مطالعات آموزش و پرورش، سازمان پژوهش و برنامه ریزی آموزشی، تهران، ایران
Keywords: fake news, Fake news analysis, identifying fake news,
Abstract :
Introduction: Fake news is spreading day by day due to individuals’ accessibility to social networks and those platforms with a lack of direct monitoring capability. Thus, understanding how to distinguish fake news can be a significant step in reducing such influences. Method: In this systematic review, original articles were obtained from those research conducted on the subject of identifying fake news in the world in the period 2015 to 2020, which was published in prestigious domestic and international scientific journals and collected in local and international databases. Finally, after considering the inclusion and exclusion criteria, 43 articles were reviewed. Results: By careful review of included studies, those articles were classified into two general categories: 1. Human identification method. 2. Automatic or machine identification method. The indicators presented on the subject and the progress made in this area also indicate many weaknesses in recognizing fake news. On the one hand, machine models that use databases, it is not possible to provide a model that works properly in the real world, and on the other hand, using human methods is very time-consuming. Conclusion: It seems that there is still a weakness in diagnosis, and in many cases, the real world has not been treated well; however, in recent years, the social network Twitter has performed much better than other systems.
Allcott, Hunt. & Gentzkow, Matthew. (2017). “Social Media and Fake News in the 2016 Election”, Journal of Economic Perspectives, Vol. 31(2), PP.211-236. doi:10. 1257/jep. 31. 2. 211.
Bakhteev, Oleg., Ogaltsov, Aleksandr. & Ostroukhov, Petr. (2020). “Fake News Spreader Detection using Neural Tweet Aggregation”, Paper presented at the CLEF.
Baruah, Arup., Das, K., Barbhuiya, F. & Dey, Kuntal. (2020). “Automatic Detection of Fake News Spreaders Using BERT”, Paper presented at the CLEF.
Benson, Rodney. (2004). “Bringing the sociology of media back in”, Political, Communication, Vol. 21(3), PP. 275-292.
Bourgonje, Peter., Schneider, Julian Moreno. & Rehm, Georg. (2017). “From clickbait to fake news detection: an approach based on detecting the stance of headlines to articles”, Paper presented at the Proceedings of the 2017 EMNLP Workshop: Natural Language Processing meets Journalism.
Cardaioli, Matteo., Cecconello, Stefano., Conti, Mauro., Pajola, Luca. & Turrin, Federico. (2020). “Fake News Spreaders Profiling Through Behavioural Analysis”, Paper presented at the CLEF.
Corbu, Nicoleta., Oprea, Denisa-Adriana., Negrea-Busuioc, Elena. & Radu, Loredana. (2020). “They can’t fool me, but they can fool the others!’Third person effect and fake news detection”, European Journal of Communication, Vol. 35(2), PP. 165-180.
De Grandis, Marco., Pasi, Gabriella. & Viviani, Marco. (2019). “Fake news detection in microblogging through quantifier-guided aggregation”, Paper presented at the International Conference on Modeling Decisions for Artificial Intelligence.
Esmaieli, A., Rahimi, S. & Moradi, M. (2019). “The Relationship between Information Literacy and the Ability of Library Users to Spot Fake News Based on the Components of IFLA Infographic”, Librarianship and Information Organization Studies (Journal of National Studies on Librarianship and Information Organization), Vol. 30. 1(117), PP. 8-28.
Faustini, Pedro Henrique Arruda. & Covões, Thiago Ferreira. (2020). “Fake news detection in multiple platforms and languages”, Expert Systems with Applications, Vol. 158, 113503.
Fersini, Elisabetta., Armanini, Justin. & D’Intorni, Michael. (2020). “Profiling Fake News Spreaders: Stylometry, Personality, Emotions and Embeddings”, Paper presented at the CLEF.
Gardiner, Harris. & Melissa, Eddy. (2016). “Obama, with Angela Merkel in Berlin”, Assails Spread of Fake News.
Gautam, Akansha. & Jerripothula, Koteswar Rao. (2020). “SGG: Spinbot, Grammarly and GloVe based Fake News Detection”, arXiv preprint arXiv: 06854.
Giachanou, Anastasia., Zhang, Guobiao. & Rosso, Paolo. (2020). “Multimodal Fake News Detection with Textual, Visual and Semantic Information”, Paper presented at the International Conference on Text, Speech, and Dialogue.
Giglou, Hamed Babaei., Razmara, Jafar., Rahgouy, Mostafa. & Sanaei, Mahsa. (2020). “LSACoNet: A Combination of Lexical and Conceptual Features for Analysis of Fake News Spreaders on Twitter”, Paper presented at the CLEF.
Goldman, Russell. (2016). “Reading Fake News”, Pakistani Minister Directs Nuclear Threat at Israel.
Gravanis, Georgios., Vakali, Athena., Diamantaras, Konstantinos. & Karadais, Panagiotis. (2019). “Behind the cues: A benchmarking study for fake news detection”, Expert Systems with Applications, Vol. 128, PP. 201-213. doi:https://doi. org/10. 1016/j. eswa. 2019. 03. 036.
Herman, Edward S. & Chomsky, Noam. (2010). “Manufacturing consent: The political economy of the mass media”, Random House.
Horne, Benjamin D., Nørregaard, Jeppe., Adali, Sibel. (2019). “Robust fake news detection over time and attack”, ACM Transactions on Intelligent Systems, & Technology, Vol. 11(1), PP. 1-23.
Kaliyar, Rohit Kumar., Goswami, Anurag., Narang, Pratik. & Sinha, Soumendu. (2020). “FNDNet – A deep convolutional neural network for fake news detection”, Cognitive Systems Research, Vol. 61, PP. 32-44. doi:https://doi. org/10. 1016/j. cogsys. 2019. 12. 005.
Karimi, Hamid., Roy, Proteek., Saba-Sadiya, Sari. & Tang, Jiliang. (2018). “Multi-source multi-class fake news detection”, Paper presented at the Proceedings of the 27th International Conference on Computational Linguistics, PP. 1546-1557.
Karimi, Hamid. & Tang, Jiliang. (2019). “Learning hierarchical discourse-level structure for fake news detection”, arXiv preprint arXiv: 07389.
Kaur, Sawinder., Kumar, Parteek. & Kumaraguru, Ponnurangam. (2020). “Automating fake news detection system using multi-level voting model”, Soft Computing, Vol. 24(12), PP. 9049-9069.
Kershner, James W. (2011). “Elements of News Writing”, Pearson Higher Ed.
Kovach, Bill. & Rosenstiel, Tom. (2014). “The elements of journalism: What newspeople should know and the public should expect”, Three Rivers Press (CA).
Kula, Sebastian., Choraś, Michał., Kozik, Rafał., Ksieniewicz, Paweł. & Woźniak, Michał. (2020). “Sentiment analysis for fake news detection by means of neural networks”, Paper presented at the International Conference on Computational Science.
Kumar, Srijan. & Shah, Neil. (2018). “False information on web and social media: A survey”, arXiv preprint arXiv: 08559.
Le, Thai., Wang, Suhang. & Lee, Dongwon. (2020). “MALCOM: Generating Malicious Comments to Attack Neural Fake News Detection Models”, arXiv preprint arXiv: 01048.
Monti, Federico., Frasca, Fabrizio., Eynard, Davide., Mannion, Damon. & Bronstein, Michael M. (2019). “Fake news detection on social media using geometric deep learning”, arXiv preprint arXiv: 06673.
Nguyen, Duc Minh., Do, Tien Huu., Calderbank, Robert. & Deligiannis, Nikos. (2019). “Fake news detection using deep markov random fields”, Paper presented at the Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Vol. 1 (Long and Short Papers).
Nguyen, Van-Hoang., Sugiyama, Kazunari., Nakov, Preslav. & Kan, Min-Yen. (2020). “FANG: Leveraging Social Context for Fake News Detection Using Graph Representation”, arXiv preprint arXiv: 07939.
Ni, Bo., Guo, Zhichun., Li, Jianing. & Jiang, Meng. (2020). “Improving Generalizability of Fake News Detection Methods using Propensity Score Matching”, arXiv preprint arXiv: 00838.
Ozbay, Feyza Altunbey. & Alatas, Bilal. (2020). “Fake news detection within online social media using supervised artificial intelligence algorithms”, Physica A: Statistical Mechanics and its Applications, 540, 123174. doi:https://doi. org/10. 1016/j. physa. 2019. 123174.
Richardson, Brian. (2007). “The Process of Writing News”, From Information to Story: Allyn & Bacon.
Rini, Regina. (2017). “Fake news and partisan epistemology”, Kennedy Institute of Ethics Journal, Vol. 27(2), E-43-E-64.
Rubin, Victoria L. (2010). “On deception and deception detection: Content analysis of computer‐mediated stated beliefs”, Proceedings of the American Society for Information Science, & Technology, Vol. 47(1), PP. 1-10.
Shoemaker, Pamela J. & Reese, Stephen D. (2013). “Mediating the message in the 21st century”, A media sociology perspective: Routledge.
Shu, Kai., Mahudeswaran, Deepak., Liu, Huan. (2019). “FakeNewsTracker: a tool for fake news collection, detection, and visualization”, Computational, & Theory, Mathematical Organization, Vol. 25(1), PP. 60-71.
Shu, Kai., Wang, Suhang. & Liu, Huan. (2019). “Beyond news contents: The role of social context for fake news detection”, Paper presented at the Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining.
Shu, Kai., Zhou, Xinyi., Wang, Suhang., Zafarani, Reza. & Liu, Huan. (2019). “The role of user profiles for fake news detection”, Paper presented at the Proceedings of the 2019 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining.
Singhal, Shivangi., Shah, Rajiv Ratn., Chakraborty, Tanmoy., Kumaraguru, Ponnurangam. & Satoh, Shin'ichi. (2019). “SpotFake: A Multi-modal Framework for Fake News Detection”, Paper presented at the 2019 IEEE Fifth International Conference on Multimedia Big Data (BigMM).
Sitaula, Niraj., Mohan, Chilukuri K., Grygiel, Jennifer., Zhou, Xinyi. & Zafarani, Reza. (2020). “Credibility-based fake news detection. In Disinformation”, Misinformation, and Fake News in social media (pp. 163-182): Springer.
Steinebach, Martin., Gotkowski, Karol. & Liu, Hujian. (2019). “Fake News Detection by Image Montage Recognition”, Paper presented at the Proceedings of the 14th International Conference on Availability, Reliability and Security.
Suri, Bhawna., Taneja, Shweta., Aggarwal, Soumya. & Sharma, Vibhakar Raj. (2020). “Fake news detection tool (FNDT): Shield against sentimental deception”, Journal of Information and Optimization Sciences, 1-12. doi:10. 1080/02522667. 2020. 1802125.
Torabi Asr, Fatemeh., Taboada, Maite. (2019). “Big Data and quality data for fake news and misinformation detection”, Big Data, & Society, Vol. 6(1), 2053951719843310.
Tschiatschek, Sebastian., Singla, Adish., Gomez Rodriguez, Manuel., Merchant, Arpit. & Krause, Andreas. (2018). “Fake news detection in social networks via crowd signals”, Paper presented at the Companion Proceedings of the The Web Conference.
Umer, Muhammad., Imtiaz, Zainab., Ullah, Saleem., Mehmood, Arif., Choi, Gyu Sang. & On, Byung-Won. (2020). “Fake News Stance Detection Using Deep Learning Architecture (CNN-LSTM)”, IEEE Access, Vol. 8.
Vogel, Inna. & Meghana, Meghana. (2020). “Fake News Spreader Detection on Twitter using Character N-Grams”, Paper presented at the CLEF.
Vosoughi, Soroush., Roy, Deb. & Aral, Sinan. (2018). “The spread of true and false news online”, Science, 359(6380), 1146. doi:10. 1126/science. aap9559.
Wang, Yaqing., Yang, Weifeng., Ma, Fenglong., Xu, Jin., Zhong, Bin., Deng, Qiang. & Gao, Jing. (2020). “Weak supervision for fake news detection via reinforcement learning”, Paper presented at the Proceedings of the AAAI Conference on Artificial Intelligence.
Wardle, Claire. (2017). “Fake news. It’s complicated”, First Draft.
Willmore, Alison. (2016). “This Analysis Shows How Viral Fake Election News Stories Outperformed Real News on Facebook”.
Wu, Lianwei, & Rao, Yuan. (2020). “Adaptive Interaction Fusion Networks for Fake News Detection”, arXiv preprint arXiv: 10009.
Wu, Lianwei., Rao, Yuan., Jin, Haolin., Nazir, Ambreen. & Sun, Ling. (2019). “Different absorption from the same sharing: Sifted multi-task learning for fake news detection”, arXiv preprint arXiv: 01720.
Yang, Yang., Zheng, Lei., Zhang, Jiawei., Cui, Qingcai., Li, Zhoujun. & Yu, Philip S. (2018). “TI-CNN: Convolutional neural networks for fake news detection”, arXiv preprint arXiv: 00749.
Zhang, Chaowei., Gupta, Ashish., Kauten, Christian., Deokar, Amit V. & Qin, Xiao. (2019). “Detecting fake news for reducing misinformation risks using analytics approaches”, European Journal of Operational Research, Vol. 279(3), PP. 1036-1052. doi:https://doi. org/10. 1016/j. ejor. 2019. 06. 022.
Zhang, Danchen. & Zadorozhny, Vladimir I. (2020). “Fake News Detection Based on Subjective Opinions”, Paper presented at the European Conference on Advances in Databases and Information Systems.
Zhang, Dongsong., Zhou, Lina., Kehoe, Juan Luo. & Kilic, Isil Yakut. (2016). “What Online Reviewer Behaviors Really Matter? Effects of Verbal and Nonverbal Behaviors on Detection of Fake Online Reviews”, Journal of Management Information Systems, Vol. 33(2), PP. 456-481. doi:10. 1080/07421222. 2016. 1205907
Zhang, J., Dong, B. & Yu, P.S. (2020). “Fake Detector: Effective Fake News Detection with Deep Diffusive Neural Network”, Paper presented at the 2020 IEEE 36th International Conference on Data Engineering (ICDE).
Zhou, Xinyi., Jain, Atishay., Phoha, Vir V. & Zafarani, Reza. (2020). “Fake News Early Detection: A Theory-driven Model”, Digital Threats: Research and Practice, Vol. 12, PP. 1-25. doi:10. 1145/3377478.
Zhou, Xinyi., Wu, Jindi. & Zafarani, Reza. (2020). “SAFE: Similarity-aware multi-modal fake news detection”, arXiv preprint arXiv: 04981.
Zhou, Xinyi. & Zafarani, Reza. (2019). “Network-based fake news detection: A pattern-driven approach”, ACM SIGKDD Explorations Newsletter, Vol. 21(2), PP. 48-60.
_||_
Allcott, Hunt. & Gentzkow, Matthew. (2017). “Social Media and Fake News in the 2016 Election”, Journal of Economic Perspectives, Vol. 31(2), PP.211-236. doi:10. 1257/jep. 31. 2. 211.
Bakhteev, Oleg., Ogaltsov, Aleksandr. & Ostroukhov, Petr. (2020). “Fake News Spreader Detection using Neural Tweet Aggregation”, Paper presented at the CLEF.
Baruah, Arup., Das, K., Barbhuiya, F. & Dey, Kuntal. (2020). “Automatic Detection of Fake News Spreaders Using BERT”, Paper presented at the CLEF.
Benson, Rodney. (2004). “Bringing the sociology of media back in”, Political, Communication, Vol. 21(3), PP. 275-292.
Bourgonje, Peter., Schneider, Julian Moreno. & Rehm, Georg. (2017). “From clickbait to fake news detection: an approach based on detecting the stance of headlines to articles”, Paper presented at the Proceedings of the 2017 EMNLP Workshop: Natural Language Processing meets Journalism.
Cardaioli, Matteo., Cecconello, Stefano., Conti, Mauro., Pajola, Luca. & Turrin, Federico. (2020). “Fake News Spreaders Profiling Through Behavioural Analysis”, Paper presented at the CLEF.
Corbu, Nicoleta., Oprea, Denisa-Adriana., Negrea-Busuioc, Elena. & Radu, Loredana. (2020). “They can’t fool me, but they can fool the others!’Third person effect and fake news detection”, European Journal of Communication, Vol. 35(2), PP. 165-180.
De Grandis, Marco., Pasi, Gabriella. & Viviani, Marco. (2019). “Fake news detection in microblogging through quantifier-guided aggregation”, Paper presented at the International Conference on Modeling Decisions for Artificial Intelligence.
Esmaieli, A., Rahimi, S. & Moradi, M. (2019). “The Relationship between Information Literacy and the Ability of Library Users to Spot Fake News Based on the Components of IFLA Infographic”, Librarianship and Information Organization Studies (Journal of National Studies on Librarianship and Information Organization), Vol. 30. 1(117), PP. 8-28.
Faustini, Pedro Henrique Arruda. & Covões, Thiago Ferreira. (2020). “Fake news detection in multiple platforms and languages”, Expert Systems with Applications, Vol. 158, 113503.
Fersini, Elisabetta., Armanini, Justin. & D’Intorni, Michael. (2020). “Profiling Fake News Spreaders: Stylometry, Personality, Emotions and Embeddings”, Paper presented at the CLEF.
Gardiner, Harris. & Melissa, Eddy. (2016). “Obama, with Angela Merkel in Berlin”, Assails Spread of Fake News.
Gautam, Akansha. & Jerripothula, Koteswar Rao. (2020). “SGG: Spinbot, Grammarly and GloVe based Fake News Detection”, arXiv preprint arXiv: 06854.
Giachanou, Anastasia., Zhang, Guobiao. & Rosso, Paolo. (2020). “Multimodal Fake News Detection with Textual, Visual and Semantic Information”, Paper presented at the International Conference on Text, Speech, and Dialogue.
Giglou, Hamed Babaei., Razmara, Jafar., Rahgouy, Mostafa. & Sanaei, Mahsa. (2020). “LSACoNet: A Combination of Lexical and Conceptual Features for Analysis of Fake News Spreaders on Twitter”, Paper presented at the CLEF.
Goldman, Russell. (2016). “Reading Fake News”, Pakistani Minister Directs Nuclear Threat at Israel.
Gravanis, Georgios., Vakali, Athena., Diamantaras, Konstantinos. & Karadais, Panagiotis. (2019). “Behind the cues: A benchmarking study for fake news detection”, Expert Systems with Applications, Vol. 128, PP. 201-213. doi:https://doi. org/10. 1016/j. eswa. 2019. 03. 036.
Herman, Edward S. & Chomsky, Noam. (2010). “Manufacturing consent: The political economy of the mass media”, Random House.
Horne, Benjamin D., Nørregaard, Jeppe., Adali, Sibel. (2019). “Robust fake news detection over time and attack”, ACM Transactions on Intelligent Systems, & Technology, Vol. 11(1), PP. 1-23.
Kaliyar, Rohit Kumar., Goswami, Anurag., Narang, Pratik. & Sinha, Soumendu. (2020). “FNDNet – A deep convolutional neural network for fake news detection”, Cognitive Systems Research, Vol. 61, PP. 32-44. doi:https://doi. org/10. 1016/j. cogsys. 2019. 12. 005.
Karimi, Hamid., Roy, Proteek., Saba-Sadiya, Sari. & Tang, Jiliang. (2018). “Multi-source multi-class fake news detection”, Paper presented at the Proceedings of the 27th International Conference on Computational Linguistics, PP. 1546-1557.
Karimi, Hamid. & Tang, Jiliang. (2019). “Learning hierarchical discourse-level structure for fake news detection”, arXiv preprint arXiv: 07389.
Kaur, Sawinder., Kumar, Parteek. & Kumaraguru, Ponnurangam. (2020). “Automating fake news detection system using multi-level voting model”, Soft Computing, Vol. 24(12), PP. 9049-9069.
Kershner, James W. (2011). “Elements of News Writing”, Pearson Higher Ed.
Kovach, Bill. & Rosenstiel, Tom. (2014). “The elements of journalism: What newspeople should know and the public should expect”, Three Rivers Press (CA).
Kula, Sebastian., Choraś, Michał., Kozik, Rafał., Ksieniewicz, Paweł. & Woźniak, Michał. (2020). “Sentiment analysis for fake news detection by means of neural networks”, Paper presented at the International Conference on Computational Science.
Kumar, Srijan. & Shah, Neil. (2018). “False information on web and social media: A survey”, arXiv preprint arXiv: 08559.
Le, Thai., Wang, Suhang. & Lee, Dongwon. (2020). “MALCOM: Generating Malicious Comments to Attack Neural Fake News Detection Models”, arXiv preprint arXiv: 01048.
Monti, Federico., Frasca, Fabrizio., Eynard, Davide., Mannion, Damon. & Bronstein, Michael M. (2019). “Fake news detection on social media using geometric deep learning”, arXiv preprint arXiv: 06673.
Nguyen, Duc Minh., Do, Tien Huu., Calderbank, Robert. & Deligiannis, Nikos. (2019). “Fake news detection using deep markov random fields”, Paper presented at the Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Vol. 1 (Long and Short Papers).
Nguyen, Van-Hoang., Sugiyama, Kazunari., Nakov, Preslav. & Kan, Min-Yen. (2020). “FANG: Leveraging Social Context for Fake News Detection Using Graph Representation”, arXiv preprint arXiv: 07939.
Ni, Bo., Guo, Zhichun., Li, Jianing. & Jiang, Meng. (2020). “Improving Generalizability of Fake News Detection Methods using Propensity Score Matching”, arXiv preprint arXiv: 00838.
Ozbay, Feyza Altunbey. & Alatas, Bilal. (2020). “Fake news detection within online social media using supervised artificial intelligence algorithms”, Physica A: Statistical Mechanics and its Applications, 540, 123174. doi:https://doi. org/10. 1016/j. physa. 2019. 123174.
Richardson, Brian. (2007). “The Process of Writing News”, From Information to Story: Allyn & Bacon.
Rini, Regina. (2017). “Fake news and partisan epistemology”, Kennedy Institute of Ethics Journal, Vol. 27(2), E-43-E-64.
Rubin, Victoria L. (2010). “On deception and deception detection: Content analysis of computer‐mediated stated beliefs”, Proceedings of the American Society for Information Science, & Technology, Vol. 47(1), PP. 1-10.
Shoemaker, Pamela J. & Reese, Stephen D. (2013). “Mediating the message in the 21st century”, A media sociology perspective: Routledge.
Shu, Kai., Mahudeswaran, Deepak., Liu, Huan. (2019). “FakeNewsTracker: a tool for fake news collection, detection, and visualization”, Computational, & Theory, Mathematical Organization, Vol. 25(1), PP. 60-71.
Shu, Kai., Wang, Suhang. & Liu, Huan. (2019). “Beyond news contents: The role of social context for fake news detection”, Paper presented at the Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining.
Shu, Kai., Zhou, Xinyi., Wang, Suhang., Zafarani, Reza. & Liu, Huan. (2019). “The role of user profiles for fake news detection”, Paper presented at the Proceedings of the 2019 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining.
Singhal, Shivangi., Shah, Rajiv Ratn., Chakraborty, Tanmoy., Kumaraguru, Ponnurangam. & Satoh, Shin'ichi. (2019). “SpotFake: A Multi-modal Framework for Fake News Detection”, Paper presented at the 2019 IEEE Fifth International Conference on Multimedia Big Data (BigMM).
Sitaula, Niraj., Mohan, Chilukuri K., Grygiel, Jennifer., Zhou, Xinyi. & Zafarani, Reza. (2020). “Credibility-based fake news detection. In Disinformation”, Misinformation, and Fake News in social media (pp. 163-182): Springer.
Steinebach, Martin., Gotkowski, Karol. & Liu, Hujian. (2019). “Fake News Detection by Image Montage Recognition”, Paper presented at the Proceedings of the 14th International Conference on Availability, Reliability and Security.
Suri, Bhawna., Taneja, Shweta., Aggarwal, Soumya. & Sharma, Vibhakar Raj. (2020). “Fake news detection tool (FNDT): Shield against sentimental deception”, Journal of Information and Optimization Sciences, 1-12. doi:10. 1080/02522667. 2020. 1802125.
Torabi Asr, Fatemeh., Taboada, Maite. (2019). “Big Data and quality data for fake news and misinformation detection”, Big Data, & Society, Vol. 6(1), 2053951719843310.
Tschiatschek, Sebastian., Singla, Adish., Gomez Rodriguez, Manuel., Merchant, Arpit. & Krause, Andreas. (2018). “Fake news detection in social networks via crowd signals”, Paper presented at the Companion Proceedings of the The Web Conference.
Umer, Muhammad., Imtiaz, Zainab., Ullah, Saleem., Mehmood, Arif., Choi, Gyu Sang. & On, Byung-Won. (2020). “Fake News Stance Detection Using Deep Learning Architecture (CNN-LSTM)”, IEEE Access, Vol. 8.
Vogel, Inna. & Meghana, Meghana. (2020). “Fake News Spreader Detection on Twitter using Character N-Grams”, Paper presented at the CLEF.
Vosoughi, Soroush., Roy, Deb. & Aral, Sinan. (2018). “The spread of true and false news online”, Science, 359(6380), 1146. doi:10. 1126/science. aap9559.
Wang, Yaqing., Yang, Weifeng., Ma, Fenglong., Xu, Jin., Zhong, Bin., Deng, Qiang. & Gao, Jing. (2020). “Weak supervision for fake news detection via reinforcement learning”, Paper presented at the Proceedings of the AAAI Conference on Artificial Intelligence.
Wardle, Claire. (2017). “Fake news. It’s complicated”, First Draft.
Willmore, Alison. (2016). “This Analysis Shows How Viral Fake Election News Stories Outperformed Real News on Facebook”.
Wu, Lianwei, & Rao, Yuan. (2020). “Adaptive Interaction Fusion Networks for Fake News Detection”, arXiv preprint arXiv: 10009.
Wu, Lianwei., Rao, Yuan., Jin, Haolin., Nazir, Ambreen. & Sun, Ling. (2019). “Different absorption from the same sharing: Sifted multi-task learning for fake news detection”, arXiv preprint arXiv: 01720.
Yang, Yang., Zheng, Lei., Zhang, Jiawei., Cui, Qingcai., Li, Zhoujun. & Yu, Philip S. (2018). “TI-CNN: Convolutional neural networks for fake news detection”, arXiv preprint arXiv: 00749.
Zhang, Chaowei., Gupta, Ashish., Kauten, Christian., Deokar, Amit V. & Qin, Xiao. (2019). “Detecting fake news for reducing misinformation risks using analytics approaches”, European Journal of Operational Research, Vol. 279(3), PP. 1036-1052. doi:https://doi. org/10. 1016/j. ejor. 2019. 06. 022.
Zhang, Danchen. & Zadorozhny, Vladimir I. (2020). “Fake News Detection Based on Subjective Opinions”, Paper presented at the European Conference on Advances in Databases and Information Systems.
Zhang, Dongsong., Zhou, Lina., Kehoe, Juan Luo. & Kilic, Isil Yakut. (2016). “What Online Reviewer Behaviors Really Matter? Effects of Verbal and Nonverbal Behaviors on Detection of Fake Online Reviews”, Journal of Management Information Systems, Vol. 33(2), PP. 456-481. doi:10. 1080/07421222. 2016. 1205907
Zhang, J., Dong, B. & Yu, P.S. (2020). “Fake Detector: Effective Fake News Detection with Deep Diffusive Neural Network”, Paper presented at the 2020 IEEE 36th International Conference on Data Engineering (ICDE).
Zhou, Xinyi., Jain, Atishay., Phoha, Vir V. & Zafarani, Reza. (2020). “Fake News Early Detection: A Theory-driven Model”, Digital Threats: Research and Practice, Vol. 12, PP. 1-25. doi:10. 1145/3377478.
Zhou, Xinyi., Wu, Jindi. & Zafarani, Reza. (2020). “SAFE: Similarity-aware multi-modal fake news detection”, arXiv preprint arXiv: 04981.
Zhou, Xinyi. & Zafarani, Reza. (2019). “Network-based fake news detection: A pattern-driven approach”, ACM SIGKDD Explorations Newsletter, Vol. 21(2), PP. 48-60.
روش های شناسایی اخبار جعلی : مطالعه مروری سیستماتیک
عنوان مکرر: شناسایی اخبار جعلی
Running title: Identifying fake news
چکیده
مقدمه: اخبار جعلی با توجه به دسترسی افراد به شبکه های اجتماعی و پلتفرم هایی که از قابلیت نظارت مستقیم برخوردار نیستند، روز به روز در حال گسترش است. در نتیجه دانستن شیوه های تشخیص یک خبر جعلی می تواند گامی موثر را در کاهش این گونه تاثیر گذاری ها داشته باشد.
روش پژوهش: دراین مطالعه مرور سیستماتیک، مقاله حاصل از پژوهش های انجام شده با موضوع شناسایی اخبار جعلی در جهان در دوره‌ی زمانی 2015 تا 2020 در مجلات معتبر علمی و پژوهشی داخلی و خارجی منتشر شده و در بانک‌های اطلاعاتی داخلی و بین المللی جمع آوری شد. در نهایت با اعمال معیار های ورود و خروج 43 مقاله مورد بررسی قرار گرفت.
یافته ها: با استفاده از مطالعات انجام شده مقالات در دو دسته کلی طبقه بندی شد: 1.روش شناسایی انسانی. 2.روش شناسایی خودکار یا ماشینی. شاخص های ارائه شده در مورد موضوع و پیشرفت های حاصل شده در این زمینه، باز نیز حاکی از ضعف بسیاری در شناخت اخبار جعلی دارد. از یک سو مدل های ماشینی که از پایگاه داده استفاده می کنند، نمی توان مدلی را ارئه داد که در فضای واقعی به درستی عمل نماید و از سوی دیگر استفاده از روش های انسانی بسیار زمان بر است.
نتیجه گیری: به نظر می رسد هنوز ضعف در تشخیص وجود دارد و در بسیاری از موارد مواجه با فضای واقعی خوب عمل نشده است، با این حال در سال های اخیر شبکه اجتماعی توییر بسیار بهتر از دیگر شبکه ها عمل کرده است.
کلیدواژگان: اخبار جعلی، تشخیص اخبار جعلی ، تحلیل اخبار جعلی.
Methods of identifying fake news: A systematic review study
Abstract
Introduction: Fake news is spreading day by day due to individuals’ accessibility to social networks and those platforms with a lack of direct monitoring capability. Thus, understanding how to distinguish fake news can be a significant step in reducing such influences.
Method: In this systematic review, original articles were obtained from those research conducted on the subject of identifying fake news in the world in the period 2015 to 2020, which was published in prestigious domestic and international scientific journals and collected in local and international databases. Finally, after considering the inclusion and exclusion criteria, 43 articles were reviewed.
Results: By careful review of included studies, those articles were classified into two general categories: 1. Human identification method. 2. Automatic or machine identification method. The indicators presented on the subject and the progress made in this area also indicate many weaknesses in recognizing fake news. On the one hand, machine models that use databases, it is not possible to provide a model that works properly in the real world, and on the other hand, using human methods is very time-consuming.
Conclusion: It seems that there is still a weakness in diagnosis, and in many cases, the real world has not been treated well; however, in recent years, the social network Twitter has performed much better than other systems.
Keywords: fake news, identifying fake news, Fake news analysis
1.مقدمه
مثال های بسیار زیادی از تاثیر اخبار جعلی در دنیای امروز وجود داشته و در واقع اخبار جعلی یکی از بزرگترین دغدغه های است که در قرن اخیر جهان را درگیر کرده است. به عنوان مثال در سال 2016 به علت یک گزارش غلط و در واقع خبری جعلی، وزیر دفاع پاکستان از طریق توئیتر کشور اسرائیل را تهدید به حمله اتمی کرد(Goldman, 2016). بسیاری از رهبران جهان از جمله باراک اوباما رئیس جمهور پیشین ایالات متحده و پاپ فرانسیس رهبر کلیسای کاتولیک روم نیز از انتشار اخبار جعلی ابراز نگرانی کرده اند(Gardiner & Melissa, 2016).
اصطلاح اخبار جعلی موضوع جدیدی نیست ولی گفتمان معاصر به ویژه رسانه هایی که پوشش جهانی دارند، اخبار جعلی را به عنوان پست هایی ویروسی مبتنی بر گزارشات ساختگی تعریف می کنند و مطالعات اخیر خبر جعلی را خبری می داند که عمده خبر قابل تایید نبوده و خوانندگان را گمراه می سازد. دو انگیزه اصلی باعث زمینه سازی در تولید اخبار جعلی می باشد: 1.انگیزه مالی و ایدئولوژیک، 2.تولید اخبار زرد یا ویروسی که باعث افزایش بازدید یک محتوا شده و درآمد تبلیغاتی ایجاد می کند(Allcott & Gentzkow, 2017).
برای درک بهتر از اخبار جعلی باید اول بدانیم که خبر واقعی چیست؟ خبر دارای تعاریف بسیاری می باشد، که همه ی آنها به چگونگی ایجاد و ماهیت آن بر می گردد، به عنوان مثال: به گزارش یک واقعه به بیانی جالب و قابل توجه خبر می گویند(Kershner, 2011) یا گزارشی از یک رویداد که تاثیر قابل توجهی را بر مردم بگذارد(Richardson, 2007). موضوع اصلی این است که معمولا افراد خبر را به عنوان خروجی کار یک روزنامه نگار حرفه ای می بینند که اطلاعاتی مستقل، قابل اعتماد، دقیق و جامع ارائه داده است(Kovach & Rosenstiel, 2014). در نتیجه عنصر اصلی در تعریف روزنامه نگاری رعایت استاندارد و مسئولیت حرفه ای او است که دارای یک موقعیت تاثیر گذار در جامعه است(Benson, 2004). پس این روزنامه نگار است که با قضاوت ذهنی خود اخبار را از منظر اجتماعی ساخته و تصمیم به ویرایش و یا حذف اطلاعات از آن خبر می کند(Herman & Chomsky, 2010)، البته ناگفته نماند که فشار های بیرونی از جمله، دولت، ناظرین و آگهی دهندگان نیز می تواند بر این پروسه تاثیر بگذارد(Shoemaker & Reese, 2013). حال اخبار جعلی به دلیل گستردگی زیادی که در حیطه های مختلف دارد، در هر موضوع به صورت خاص خود تعریف می شود و به عنوان مثال در حوضه فروش، افرادی برای یک محصول مواردی را به غلط نوشته تا بهتر خریداری شود و یا در حوزه سیاست برای همراهی افکار جمعی، اخباری را به غلط منتشر کرده تا به مقاصد سیاسی خود برسند. و تمامی این اخبار شاید دارای نویسنده و منبع مشخصی نباشد(Wardle, 2017; Dongsong Zhang, Zhou, Kehoe, & Kilic, 2016).
اخبار جعلی اکنون یکی از بزرگترین تهدید های دموکراسی، روزنامه نگاری و آزادی بیان تلقی می شود و این موضوع بر روی اعتماد عمومی به دولت ها را هدف قرار داده (Zhou & Zafarani, 2019). میزان تاثیر به قدری زیاد است که در انتخابات سال 2016 آمریکا برای تنها 20 خبر جعلی برتری که منتشر شده تعداد 9 میلیون اشتراک گذاری فقط در فیس بوک ثبت شده و بیش از 7 میلیون نظر و کامنت نیز گذاشته شده است(Willmore, 2016). نکته جالب دیگری که مطالعات نشان داده این است که اخبار جعلی با سرعت بسیار بالاتری نسبت به دیگر اخبار در شبکه توییتر باز توییت شده و به ویژه در اخبار سیاسی سرعت گسترش خبر جعلی بسیار زیاد است(Vosoughi, Roy, & Aral, 2018).
مطالعات نشان داده که عوامل اجتماعی و روان شناختی نقش مهمی را در جلب اعتماد عمومی توسط یک خبر جعلی داشته و انتشار آن را تسهیل می نماید. در واقع ثابت شده که انسان هنگام تمایز بین حقیقت و دروغ، بسیار غیر منطقی عمل کرده و آسیب پذیر بوده و اطلاعات فریبنده می تواند در توانایی تشخیص جعلی بودن یک خبر تاثیر بگذارد، نرخ کشف یک خبر جعلی دارای میانگین 54 درصد بوده و نشان دهنده میزان بالای آسیب پذیری یک انسان در مقابل با اخبار جعلی می باشد (Rubin & Technology, 2010). مهمتر این که تکرار مواجه فرد با همان خبر جعلی می تواند توانایی تشخیص را پایین آورده و باعث اعتماد به خبر شود(Rini, 2017).
پژوهش ها و دیدگاه های بسیاری در تشخیص و تبیین مفاهیم خبر جعلی انجام شده است، با این حال نه تنها در سال های اخیر این موضوع باعث کاهش تاثیر گذاری اینگونه اخبار نشده بلکه تعداد آن نیز روز به روز در حال افزایش است، التبه پزوهش های بسیار اندکی در کشور ایران نیز در این زمینه انجام شده که تعداد آن به تعداد انگشت های دست نیز نرسیده و نیاز است تا با معرفی جامع و تحلیلی عمیق، به توسعه و جذب محقق در حیطه های مربوط به اخبار جعلی در کشور ایران کمک کرد. نا گفته نماند که تمامی علومی که منجر به تشخیص جعلی بودن یک خبر از جمله، علوم کامپیوتر، علوم سیاسی، روزنامه نگاری، علوم اجتماعی ، روانشناسی، اقتصاد و اطلاعات در واقع در بسیاری از جهات صرف زبان خاص یک کشور بوده و مطالعات انجام شده به واسطه یادگیری ماشین، پردازش زبان طبیعی، بازیابی اطلاعات و داده کاوی، باید مختص زبان فارسی انجام شده تا بتواند خبر جعلی را بر همان اساس تشخیص دهد، امید آن است تا با این پژوهش، کشف اخبار جعلی با زبان فارسی مهمتر جلوه کرده و محققان این حوزه آشنایی بیشتری با روش ها پیدا نمایند.
2. پیشینه تحقیق
در این بخش از مقاله سعی شده تا با استفاده از مطالعات انجام شده به دسته بندی از رویکرد های متفاوت در مورد شناسایی اخبار جعلی پرداخته و تشریحی از چگونگی ارتباط بین این رویکرد ها و چگونگی کارکرد هرکدام برای تشخیص بهتر را ارائه نماییم. جدول (1) خلاصه ای از کل مقالات مورد بررسی در سال های اخیر را نشان می دهد. نکته مهم این است که این مقالات در دو دسته کلی طبقه بندی شده: 1.روش شناسایی انسانی. 2.روش شناسایی خودکار یا ماشینی.
جدول (1) مقالات پیرامون روش های شناسایی
نام نویسنده و سال انتشار | موضوع مورد مطالعه | روش پژوهش | نتیجه پژوهش |
(Zhou, Jain, Phoha, & Zafarani, 2020) | اخبار جعلی تشخیص زودهنگام: یک مدل نظریه محور | توجه در محتوای اخبار از لحاظ واژگان، معنا، گفتمان و نحوه به واسطه روش یادگیری ماشین به صورت نظارت شده | این روش الگو های بالقوه اخبار جعلی را پردازش و قابلیت تفسیر را افزایش داده است و روابط بین اطلاعات نادرست و استفاده های تبلیقاتی را شناسایی می کند. نکته این روش این است که حتی با دیتا بیس محدود نیز می تواند امکان شناسایی زود هنگام را فراهم سازد. |
(Ozbay & Alatas, 2020) | تشخیص اخبار جعلی در شبکه های اجتماعی آنلاین با استفاده از الگوریتم های نظارت شده هوش مصنوعی | با استفاده از دو مرحله، اول داده های غیر ساختار یافته را ساختار یافته کرده و سپس متن ساختار یافته را با استفاده از توزین TF، و ماتریس اطلاعات تشکیل شده، با استفاده از هوش مصنوعی نظارت شده تحلیل می نماید | نقطه قوت این پژوهش ترکیب 23 تا روش است که از مطالعات قبلی استفاده شده و با استفاده از هوش مصنوعی از همه آنها برای طبقه بندی استفاده کرده است، که باعث افزایش دقت تشخیص می شود. |
(Zhou, Wu, & Zafarani, 2020) | تشخیص اخبار جعلی بر اساس تشابه | این روش به صورت هم زمان متن و تصویر را توسط الگوریتم شبکه عصبی استخراج و هم زمان با دیتا بیس خود مشابهت سنجی می نماید. | نتکه این مقاله در بررسی هم زمان متن و تصویر نهفته بوده و شناسایی عدم تطابق را تسهیل نموده است، با استفاده از داده های واقعی نیز تست شده و از اثر بخشی مناسبی برخوردار است. |
(Sitaula, Mohan, Grygiel, Zhou, & Zafarani, 2020) | قابلیت تشخیص اخبار جعلی مبتنی بر اعتبار نویسنده | این پژوهش مقایسه ای را بین تحلیل داده اخبار جعلی و سازنده خبر یا همان تحلیل پروفایل سازنده یا حساب کاربری او انجام داده و با استفاده از آمار اولویت بندی کرده است. | این پژوهش نشان می دهد که تحلیل سابقه و ارتباط نویسنده، حساب کاربری او، در شبکه های اجتماعی و تعداد نویسندگان یک خبر واحد می تواند شاخصی قوی برای شناخت خبر جعلی بوده و هدف از این پژوهش پیشنهادی برای بهبود روش های سنتی بیان شده. |
(Kaliyar, Goswami, Narang, & Sinha, 2020) | یک شبکه عصبی کانولوشن عمیق برای تشخیص اخبار جعلی | مطالعه مذکور از روش شبکه عصبی کانولوشن عمیق به جای تمرکز بر یادگیری دستی استفاده کرده و در واقع با استفاده از هوش مصنوعی به یادگیری خودکار پردخته است. | این روش از داده های آزمایش شده برای آموزش هوش مصنوعی استفاده و بعد عملکرد مدل را با پارامتر های ویلکسون، مثبت کاذب ، منفی واقعی ، دقت ، فراخوان ، F1 تست کرده است. دقت مدل پیشنهادی 98.36 درصد ارزیابی شده است و به گسترش مدل های عمیق کمک می نماید. |
(J. Zhang, Dong, & Yu, 2020) | تشخیص اخبار جعلی موثر با شبکه عصبی انتشار عمیق | این مقاله با مطالعه چالش های ناشناخته پژوهش های قبلی را بررسی و با استفاده از یک شبکه عصبی گراف دار را معرفی کرده است. | این شبکه اطلاعات متنی را از طریق بررسی ویژگی های نویسنده خبر، متن خبر و موضوعات مرتبط هم زمان بررسی می کند. این پژوهش فقط تمرکز خود را بر پیاده سازی مدل قرار داده است. |
(Wang et al., 2020) | مدل نظارت ضعیف برای تشخیص اخبار جعلی از طریق تقویت آموزش مدل | این پژوهش از بر روی روش آموزش مدل تمرکز و روش خود را که نظارت ضعیف هست پیشنهاد داده. | نکته مهم این مقاله این است که آموزش های داده شده به هوش مصنوعی به مرور زمان با تغییر سریع سبک های مختلف خبر نویسی منسوخ شده و نیاز است تا یادگیری های دوباره انجام شود. این روش با استفاده از نظرات کاربرای یک شبکه اجتماعی در مورد خبر واحدمی تواند یادگیری الگوریتم ها را بهبود دهد، محیط تست این روش نرم افزار وی چت بوده و در مقایسه با روش های دیگر عملکرد بسیار بهتری را داشته است. |
(Kaur, Kumar, & Kumaraguru, 2020) | سیستم تشخیص خودکار اخبار جعلی با استفاده از مدل رأی گیری چند سطحی | این پژوهش یک مدل رای گیری چند سطحی پیشنهاد داده و طبقه بندی نموده و با استفاده از بردار تهاجمی خطی، رگرسیون لجستیک و بردار پشتیبان خطی مقایسه را انجام داده. | ین مدل توانسته بهتر از رویکرد های استحراج ویژگی، که به ترتیب شامل، فرکانس سند معکوس، شمارشگر و هش کردن می باشد عمل کند. |
(V.-H. Nguyen, Sugiyama, Nakov, & Kan, 2020) | تشخیص اخبار جعلی با استفاده از زمینه اجتماعی و نمودار | با استفاده از نمودار FANG پیشنهادی خود توانسته اند گرافی را تهیه تا زمینه اجتماعی خبر را بررسی نماید. | این روش در مقایسه با روش های گرافیکی و غیر گرافیکی، کاربرد های بسیاری داشته و آموزش پذیر تر می باشد. نکته بعدی این است که برای آموزش مجدد به استنباط نیازی نداشته و پردازش مجدد نیز صورت نمی گیرد. نکته بعدی خاصیت پیش بینی کننده در گزارش یک رسانه خبری می باشد. |
(Vogel & Meghana, 2020) | شناسایی پخش کننده های اخبار جعلی در توییتر | با استفاده از کارکتر N-Gram در توییتر و بر روی زبان شناسی تمرکز داشته و در زبان انگلیسی و اسپانیایی این پژوهش انجام شده و تحلیل رگرسیون لجستیک انجام شده | نتیجه پژوهش از تشخیص 73 درصدی در زبان اسپانیایی و 79 درصدی در زبان انگلیسی حکایت داشته و این پژوهش بر پروفایل کاربری نظارت داشته و بر روی زبانشناسی کارکرده، با استفاده از نام کاربری و ریتوییت های انجام شده، شناسایی شده، چالش اصلی خطاهای نگارشی بوده که کار را برای الگوریتم سخت کرده است. پیشنهاد شده که از رویکرد سبک نوشتاری برای تشخیص استفاده شود. |
(Bakhteev, Ogaltsov, & Ostroukhov, 2020) | تشخیص پخش کننده های اخبار جعلی در توییتر با استفاده از شبکه عصبی | با استفاده از طبقه بندی باینری و کلاس بندی آنها، حساب های جعلی و عادی شناسایی شده است. | از طریق شبکه عصبی کانولوشن، به عملکرد 78 درصدی رسیده و بیان کرده که از طریق مقایسه توییت های افراد مشهور و خبر های پخش شده در واقع توجه به منبع خبر می توان به کشف اخبار جعلی پرداخت. |
(Baruah, Das, Barbhuiya, & Dey, 2020) | تشخیص خودکار پشخ کننده های خبر جعلی با استفاده از BERT | با استفاده از طبقه بندی BERT و استافده از دیتا بیس، تا 1024 لایه شناسایی و توییت های نویسنده را آزمایش کرده اند. | دقت عمل این روش 69 درصد بیان شده و کنترل نویسنده توییت، در تمامی توییت های نوشته شده بهتر از بررسی تک توییت، جوابگو خواهد بود، ولی سرعت عمل این روش پایین است و یک خبر جعلی تاثیر خود را خواهد گذاشت. |
(Gautam & Jerripothula, 2020) | تشخیص اخبار جعلی با استفاده از SSG | در واقع این مقاله از ترکیب روش های گرامری، ربات های چرخشی و بردارهای سراسری برای بازنمایی کلمات استفاده کرده است. | در واقع این الگوریتم ها برای تشخیص پاراگراف بندی، بررسی دستور زبان و جاسازی کلمات و تشخیص آنها استفاده کرده و نتایج با با ترکیب منبع خبری از جمله افراد مشهور و داده های AMT استفاده شده است. دقت عملکردی 78 درصد را نشان می دهد. |
(Le, Wang, & Lee, 2020) | ایجاد کامت های مخرب جهت حمله به مدل های تشخیص اخبار جعلی | روش MALCOM استفاده شده تا تاثیر آن را بر گمراه سازی مدل های خبر جعلی شناسایی نماید. | این روش و تست آن توانسته تا 90 درصد بر رفتار مدل های مبتنی بر شبکه عصبی و کشف اخبار جعلی را فریب داده و برچسب اخبار واقعی را تولید نماید. در واقع کامنت های تایید کننده می تواند روش های تشخیص اخبار جعلی را مخدل نماید، این روش روی روش های مبتنی بر تحلیل نرخ تعامل با خبر را تحت تاثیر بسیار قرار داده و حتی روی انسان نیز به راحتی اثر گذار خواهد بود. |
(Ni, Guo, Li, & Jiang, 2020) | تشخیص اخبار جعلی با استفاده از ویژگی زمانی و فرآیند های نقطه ای | استفاده از ویژگی برداری زبانی it و استفاده از متغییر زمان و طبقه بندی با استفاده از SVM | نشان داده شده که تفاوت زمانی بین ماندگاری و رفتار خبر جعلی با واقعی وجود دارد و روش ترکیب متنی و ویژگی های پروفایل کاربر نتایج را به صورت تجربی بهبود بخشیده است. با این حال ویژگی های زمانی بسیار مبهم ارزیابی شده است. و پیشنهاد شده بر روی آن کار صورت پذیرد. |
(Faustini & Covões, 2020) | تشخیص اخبار جعلی بر اساس پلت فرم های مختلف و زبان | از سیستم پردازش زبان طبیعی، کلمات کلیدی و Word2Vec استفاده شده است.این پزوهش بر روی زبان های انگلیسی، لایتن و اسلاوی انجام شده. در و اقع از یادگیری ماشینی استفاده شده است. الگوریتم های KNN، Random Forest، کیف کلمات، svm | در این مقاله تاکید شده که هر شبکه اجتماعی دارای ویژگی های خاص خود است و نسخه واحدی برای تمامی پلتفرم های رسانه ای و پخش اخبار نمی تواند وجود داشته باشد. در نتیجه باید بر اساس تفاوت های هر شبکه الگوریتم های یادگیری سفارشی سازی شده باشد. الگوریتم Random Forest بهتر از بقیه جواب داده است. |
(Corbu, Oprea, Negrea-Busuioc, & Radu, 2020) | بر روی تاثیر سوم شخص در کشف اخبار جعلی کار شده است | بر اساس ارائه شواد تجربی نوشته شده و تعداد 813 نفر از بزرگسالان رومانیایی در این پژوهش شرکت کرده اند. | این پژوهش نشان می دهد که تاثیر افراد به عنوان سوم شخص در رد یا تایید یک خبر زیاد بوده و معمولا سواد رسانه ای آنها از بقیه بیشتر بوده است، مهمترین عوامل تاثیر گذار در این رابطه، تحصیلات، درآمد، علاقه به سیاست، وابستگی به شبکه اجتماعی فیس بوک و جهت گیری های سیاسی بوده و سن هیچ تاثیری در این رابطه ندارد. |
(Cardaioli, Cecconello, Conti, Pajola, & Turrin, 2020) | انتشار اخبار جعلی و درک آن به واسطه تحلیل رفتار پروفایل | این روش بر اساس یادگیری ماشین انجام شده. این روش مبتنی بر روش Big Five بوده است. و بر روی داده های توییتر انجام شده. روش big five بر اساس 47 شاخص پروفایل کاربر را کنترل و api آن را تحلیل می کند. | این روش نیز ویژگی های شخصیت و سبک پروفایل را بررسی و بر اساس چارچوب یادگیری ماشین، در دو زبان انگلیسی و اسپانیایی بررسی کرده است. دقت این روش 69 درصد بیان شده است. در واقع ویژگی های روانشناختی پروفایل را بررسی و تعیین کرده که این خبر جعلی بوده یا خیر. پیشنهاد شده تا نمرات زبانی را با الگوی شخیصت ترکیب کرده تا بهترین نتیجه حاصل شود. |
(Giachanou, Zhang, & Rosso, 2020) | تشخیص اخبار جعلی به واسطه مدل ترکیبی اطلاعات متنی، تصویری و معنایی | با استفاده از شبکه عصبی، اطلاعات متنی، تصویری و معنایی را با هم ترکیب کرده و از طریق میزان شباهت بین تصویر و متن به تشخیص اخبار جعلی پرداخته است. | این پژوهش بر اساس کلمه کلیدی، احساسات درون پست، برچسب های تصویر و LBP و مقایسه بین متن و تصویر انجام شده و بیان داشته که این روش می تواند مفید واقع شود، البته جای کار بسیاری در نتیجه گیری توصیف شده است و میزان توانایی روش در داده های مختلف نشان از رنج 5/92 درصد تا 2/62 درصد داشته است. |
(Kula, Choraś, Kozik, Ksieniewicz, & Woźniak, 2020) | تشخیص خبر جعلی به واسطه تحلیل احساس کار کرده است | با استفاده از الگوریتم های شبکه عصبی کار تحلیل احساسات را انجام داده. | آزمایش ها را امید وار کننده توصیف کرده و بیان داشته که نیاز به کار بیشتری در این زمینه می باشد. |
(Fersini, Armanini, & D’Intorni, 2020) | تشخیص پروفایل فیک در پخش اخبار فیک | این پژوهش بر اساس سبک سنجی، شخصیت، احساسات و شیوه پر کردن پروفایل طبقه بندی انجام داده است. مقاله به روش توصیفی است. | این پژوهش نشان داده که با مدل سازی روی چهار ویژگی نشان از تشخیص راحت تر اخبار فیک را داشته و بهتر است تا مواردی همچون سن، موقعیت جغرافیایی و سطح تحصیلات کاربران نیز برای متمایز کردن انتخاب شود. |
(Danchen Zhang & Zadorozhny, 2020) | تشخیص اخبار جعلی به واسطه نظرات ذهنی | این پژوهش بر اساس رفتارهای خبری در شبکه های اجتماعی است و داده ها از PolitiFact و BuzzFeed استخراج شده است. | در این پژوهش اول، قابلیت اطمینان کاربر، اطمینان خبر، بر اساس دو حالت تشخیص و افکار ذهنی سنجیده شده و دقت تشخیص در حالت دوم از 10 به 90 درصد افزایش پیدا کرده |
(Suri, Taneja, Aggarwal, & Sharma, 2020) | ابزار تشخیص اخبار جعلی (FNDT): سپر در برابر فریب احساسی | با استفاده از پردازش زبان طبیعی و یادگیری ماشین و رویکرد های Bag of Words و TF-IDF و پایگاه داده LIAR | نتایج نشان از این داشته که رویکرد جنگل تصادفی مناسب ترین حالت برای طبقه بندی و تشخیص اخبار جعلی است. |
(Wu & Rao, 2020) | ردیابی اخبار جعلی با استفاده از شبکه های همجوشی تداخلی | استفاده از AIFN برای تحقق همجوشی متقابل میان ویژگی ها ی تشخیص اخبار جعلی و استفاده از پایگاه داده RumourEval، PHEME | در واقع دلیل این ادغام، عدم تعامل بین ویژگی های شبکه های اجتماعی از جمله، پست، نظرات و .. بوده و با استفاده از این الگوریتم دقت عملکرد را بیش از 2 درصد افزایش داده است. |
(Giglou, Razmara, Rahgouy, & Sanaei, 2020) | ترکیب ویژگی های لغوی و مفهومی برای تجزیه و تحلیل انتشار دهنده اخبار جعلی | با استفاده از شبکه عصبی FCNN و طبقه بندی | نشان از دقت 72 تا 74 درصدی در کشف اخبار فیک به واسطه توجه به محتوا و ترکیب معنایی |
(Umer et al., 2020) | تشخیص موقعیت اخبار جعلی با استفاده از یادگیری عمیق | از معماری ترکیبی شبکه عصبی با قابلیت های CNN و LSTM با رویکرد کاهش ابعاد تجزیه و تحلیل استفاده شده است. | برای کاهش ابعاد تحلیل از الگوریتم های مولفه های اصلی و مربع کای استفاده شده و نتیاج نشان می دهد که با استفاده زا روش مجذور کای، دقت 8/97 درصد بوده و عملکرد بهتری را داشته است. |
(Monti, Frasca, Eynard, Mannion, & Bronstein, 2019) | رمزنگاری خودکار چند حالته برای تشخیص اخبار جعلی | به دلیل نقص در تشخیص اخبار متنی و تصویری، رمزگذار واریانس چندوجهی استفاده شده است. | با استفاده از الگوریتم رمزنگاری پست های توییتر و ویبو را بررسی کرده و الگوریتم نشان از تفاوت در پست ها با توجه به جعلی بودن آنها دارد و الگوریتم آن را طبقه بندی می کند. |
(Monti et al., 2019) | تشخیص اخبار جعلی با استفاده از یادگیری عمیق هندسی | الگوریتم یادگیری عمیق هندسی با تعمیم CNN های کلاسیک به نمودار باعث به هم آمیختن داده های ناهمگن مانند محتوا ، مشخصات و فعالیت کاربر ، نمودار اجتماعی و انتشار اخبار را هم زمان بررسی می نماید. | این مدل بر روی داده های توییتر که توسط سازمان های حقیقت یاب بررسی و واقعیت سنجی شده تست شده و از دقت 7/92 درصدی برخوردار بوده است. این مدل از سرعت بسیار بالایی در شناسایی بر خوردار می باشد. |
(Karimi & Tang, 2019) | یادگیری ساختار سطح سلسله مراتبی برای تشخیص اخبار جعلی | این پژوهش با استفاده از ساختار تحلیل گفتمانی و یادگیری آن توسط ماشین با استفاده از الگوریتم های N-grams، LIWC، RST، BiGRNN-CNN، LSTM، LSTM[s] بررسی و تلفیق انجام داده است. | این پژوهش نسان می دهد که اخبار جعلی و واقعی دارای ساختار های متفاوت بسیار اساسی در سطح گفتمان سلسله مراتبی می باشند. |
(Gravanis, Vakali, Diamantaras, & Karadais, 2019) | معیار های تشخیص اخبار جعلی | این مطالعه به سبک benchmarking study است و دو الگوریتم یادگیری ماشین به نام های AdaBoost و Bagging را آنالیز و تحلیل کرده است. | این پژوهش بیان داشته که استفاده از یک ویژگی زبانی پیشرفته همراه با تعبیه سازی کلمات و الگوریتم های مورد استفاده و ماشین های بردار پشتیبانی (SVM) قادر به طبقه بندی اخبار جعلی با دقت بالا است. |
(Shu, Zhou, Wang, Zafarani, & Liu, 2019) | این پژوهش به بررسی نقش پروفایل کاربر و درک المان های آن پرداخته است. | از الگوریتم های RST، LIWC، RST UPF، LIWC UPF، استفاده کرده است. | فاکتور هایی که استفاده شده شامل: شناسایی گروه های کاربری که عضو است، کاربر های رباتی را حذف کردن و تحلیل سن، شخصیت، عکس پروفایل، موقعیت مکانی کاربر ، جهت گیری سیاسی کاربر ، شبکه ارتباطی کاربر و داده های مربوط به دفترچه تلفن آن، تلفیق این داده ها دقت عمل بالایی را در شناسایی کاربر ها ایجاد خواهد کرد. |
(Horne, Nørregaard, Adali, & Technology, 2019) | تغییر توانایی کشف اخبار جعلی با گذشت زمان | این مطالعه به بررسی تاثیر زمان بر طبقه بندی اخبار جعلی پرداخته و توصیفی می باشد. | بیان داشته که ویژگی های دستی ، محتوا ، مانند سبک نوشتن ، نسبت به تغییرات چرخه خبر به کندی تغییر کرده ولی دستکاری محتوا که توسط افراد انجام شده کار تشخیص را سخت تر می کند، و بیان کرده که مدل های ساکن خیلی تاثیر پذیر تر از شبکه های اجتماعی بوده و مدل های آنلاین بهتر می توانند ردیابی شده و دستکاری در آنها را بهتر می توان پیگیری کرد، زیرا بسیاری از لاگ های تغییرات ثبت شده است. |
(Zhou & Zafarani, 2019) | شناسایی اخبار جعلی بر اساس رویکرد های الگو محور | این پژوهش به معرفی الگو های عمومی، دورتر، درگیری قوی و شبکه دنسر می پردازد. | الگوی دنسر که روش پیشنهادی این پژوهش است بر اساس علایق مشترک کاربران ساخته شده و بیان دارد که پخش کننده های اخبار جعلی دارای گروه هایی بوده که کاربرانی را با علایق مشترک در آن جمع کرده و خرواک خبری را پشخ می کنند در نتیجه از این وجه تمایز استفاده و به تشخیص بین منبع خبر با پخش کننده پرداخته و تشخیص صورت می پذیرد. |
(D. M. Nguyen, Do, Calderbank, & Deligiannis, 2019) | تشخیص اخبار جعلی با استفاده از فیلد های تصادفی مارکوف | فرآیند تشخیص اخبار جعلی را با استفاده از زمینه تصادفی مارکوف و الگوریتم تکرار میدان میانی انجام داده و با این الگوریتم مشکل استنباط را حل کرده است. | این مقاله بیان داشته که این مدل توانایی مناسبی را داشته و با یک پارچه سازی لایه های پنهان یک شبکه یادگیری عمیق را داشته و پتانسیل MRF را تولید می نماید. |
(C. Zhang, Gupta, Kauten, Deokar, & Qin, 2019) | روشی برای تشخیص اخبار جعلی و کاهش خطر اطلاعات نادرست با استفاده از تجزیه و تحلیل | این پژوهش با استفاده زا توابع ارزش بولی و ایجاد نمره اعتبار برای مقاله از توصیف و تعریفترکیب جملات کامل و ناقص، رویداد ها و موضوعات مختلف این کار را به سرانجام رسانده است. | میزان خطا و درصد کشف، بر اساس داده های طبقه بندی شده 49/92 درصد و برای داده های فراخوان شده 16/94 درصد بوده است. |
(Wu, Rao, Jin, Nazir, & Sun, 2019) | تشخیص اخبار جعلی با استفاده از آموزش غربال گری چند کاره: جذب تفاوت ها و اشتراک تشابهات | در این پژوهش یک روش الک شده با لایه گذاری اشتراکی انتخاب شده و از مکانیزم دروازه و توجه، برای فیلتر کردن و انتخاب جریان های مشترک بین تسک یا وظیفه ها استفاده شده است. | آزمایش ها در دو مجموعه عمومی داده های RumourEval و PHEME نشان از بهبود عملکرد به میزان 31/1 درصد شده است. |
(De Grandis, Pasi, & Viviani, 2019) | تشخیص اخبار جعلی در میکروبلاگینگ ها از طریق تجمع هدایت شده | در این پژوهش از الگوی تصمیم گیری چند معیاره (MCDM) برای کشف اخبار جعل استفاده شده است. | این مقاله تمرکز خود را بر محتوای تولید شده توسط کاربر (UGC) قرار داده و بیان کرده که کنترل سنتی روی سازه های وبلاگ ها پاسخ گو نبوده و با استفاده از روش پیشنهادی، داده های مربوط به پردازش مدل را کاهش و انعطاف پذیری آن را در کشف اخبار جعلی بیشتر کرده است. |
(Torabi Asr, Taboada, & Society, 2019) | استفاده از آنالیز بیگ دیتا یا داده های کلان برای تشخیص اخبار جعلی | این پژوهش از مقایسه داده های MisInfoText استفاده و توزیع نرمال را با استفاده از داده های برچسب خورده قبلی که به وسلیه منابع انسانی صحت سنجی شده بررسی و مدل سازی کرده است. | این پژوهش اذعان داشته که نیاز به کار بیشتری بر روی این موضوع بوده و نتوانسته به درستی طبقه بندی را انجام داده و نیاز به آزمایش رویکرد های ترکیبی برای حصول نتیجه از جمله رویکرد های کلاسیک و یادگیری عمیق می باشد. |
(Steinebach, Gotkowski, & Liu, 2019) | تشخیص اخبار جعلی با استفاده از مونتاژ تصویر | با ساتفاده از الگوریتم نزدیک ترین همسایه تشخیص عکس های مونتاژ شده را انجام شده است. | در این پژوهش از عامل انسانی برای تایید عکس های مونتاژ شده استفاده شده و به طور متوسط فرآیند تشخیص هر عکس 100 میلی ثانیه و 90 درصد درست تشخیص داده شده است. |
(Singhal, Shah, Chakraborty, Kumaraguru, & Satoh, 2019) | معرفی SpotFake به عنوان چارچوبی چند حالته برای تشخیص اخبار جعلی | این پژوهش ترکیب متن و عکس را بررسی و الگوریتم تشخیص متن آن BERT و تشخیص عکس آن VGG-19 بوده که قبلا در مجموعه داده های ImageNet آموزش دیده شده است. | این مدل بیان داشته که تشخیص اخبار جعلی وابستگی بسیاری به تعریف تسک یا وظیفه های فرعی و عواملی دارد که به عنوان داده ورودی استفاده می شود و این مدل باعث بهبود 27/3 درصدی در تشخیص داده های توییتر و 83/6 درصدی در تشخیص داده های ویبو داشته است. |
(Shu, Mahudeswaran, Liu, & Theory, 2019) | معرفی ابزار فیک نیوز ترکر، برای شناسایی و جمع آوری اخبار جعلی | این تحقیق با استفاده از مدل SAF ویژگی های زبانی و محتوای اخبار را با ویژگی های زمینه اجتماعی برای طبقه بندی اخبار جعلی استفاده می کند ، این موضوع با استفاده از طبقه بندی باینری انجام شده است. | طبقه بندی انجام شده اینگونه توصیف شده که نتایج خوبی به همراه داشته و در داده های PolitiFact و BuzzFeed طبقه بندی مناسبی را به همراه داشته است. |
(Tschiatschek, Singla, Gomez Rodriguez, Merchant, & Krause, 2018) | تشخیص اخبار جعلی به واسطه سیگنال های جمعیت | استفاده از الگوریتم DETECTIVE برای استنتاج بیزی اخبار جعلی | این پژوهش اساس کار را بر روی فلگ یا پرچم گذاری افراد بر روی خبر های شبکه های اجتماعی از جمله فیس بوک قرار داده و این الگوریتم با استفاده از نمونه گیری خلفی کاوش و فعالیت کاربران را بررسی می کند. نتایج اینگونه توصیف شده که سیگنال های جمعیت قردت تشخیص بالایی را دارند. |
(Yang et al., 2018) | شبکه های عصبی کانولوشن برای تشخیص اخبار جعلی | این پژوهش مدلی به نام TI-CNN را برای متن و تصویر مبتنی برا اطلاعات شبکه عصبی مدولار ارائه داده است | این پزوهش اثر بخش توصیف شده ولی نیاز به پژوهش های تکمیلی را بیان داشته است و مجموعه ای از ویژگیهای نهفته که از طریق کانولوشن چندگانه استخراج کرده. |
3.روش پژوهش
مطالعه از نوع مروری و کتابخانه ای به صورت سیستماتیک انجام شده است. در این مطالعه 17600 مقاله حاصل از پژوهش های انجام شده با موضوع شناسایی اخبار جعلی در جهان در دوره‌ی زمانی 2015 تا 2020 در مجلات معتبر علمی و پژوهشی داخلی و خارجی منتشر شده و در بانک‌های اطلاعات جهاد دانشگاهی ، Elsevier ، Springer ، Wiley ، 1IEEE ، Taylor & Francis، ماگیران ، گوگل اسکولار نمایه شده اند جمع آوری شد. به منظور جستجو و تحقیق از الگوریتم زیر استفاده شده است.
شکل 1.الگوریتم مورد استفاده در مطالعه مروری
پس از حذف بر اساس الگوریتم نوشته شده تعداد 43 مقاله که بهترین حالت را در جهت مقایسه کمی و نتایج را دارا می بود ، مورد بررسی و تحلیل قرار گرفت تا بتوان از آن در جهت تعمیم و تحلیل مطالب استفاده کرد.
4-1- روش های شناسایی انسانی
با توجه به گستردگی مطالب در حوزه خبر می توان اینگونه تصور کرد که یک فرد هرچه قدر هم که از علم کافی برخوردار باشد، در تمامی حوزه ها صاحب نظر نبوده و حتما توانایی تحلیل و تشخیص اخبار جعلی را در همه حوزه های خبری دارا نخواهد بود. در نتیجه کار بسیار کمی نیز در این حوزه انجام شده و به رهنمود های همچون افزایش سواد اطالاعاتی و رسانه (که عملا امکان پذیر نیست)، توجه به خصوصیات یک خبر و استفاده از امکاناتی که به حقیقت یاب2 مشهور بوده محدود شده است. یکی دیگر از ضعف های روش هایی که انسان در آن دخالت مستقیم دارد، موضوع انفجار اطلاعاتی و سرعت پخش اخبار بوده که اولا یک فرد در دنیای امروز، با بنباران اطلاعاتی مواجه است و قطعا توان مقابله با آن نیز برای هر فردی بسیار دشوار بوده و تمامی خبر ها قابلیت چک کردن توسط فرد به صورت هم زمان را نخواهد داشت، پس شاید این موضوع از بزرگترین نقطه ضعف های سیستم هایی با نیاز دخالت انسانی بوده و در ضمن در مورد تکرار قرار گرفتن فرد با اخبار جعلی، ممکن است باعث تاثیر گذاری بیشتر و همچنین موجب عدم توجه فرد برای کنتر اخبار را در پی داشته باشد. با این حال شناسایی توسط عوامل انسانی به شرح زیر می باشد:
1.استفاده از سواد رسانه، اطلاعات و خصوصیات خبر:
الف) توجه به منبع: یکی از اصلی ترین موضوعات برای بررسی های انسانی، تمرکز بر روی منبع خبر به جای متن بوده و از مهم ترین نکاتی که باید به آن توجه داشت، لینک خبر و دامنه آن است که نباید نشانه های مشکوک داشته و یا کپی منابع خبری مهم با یک حرف اضافه برای نشان دادن اینکه مبع خبر امن می باشد، باشد و همچنین باید به بخش های درباره ما و قوانین آن منبع نیز مراجعه و اگر در قوانین سلب مسئولیت از متن نوشته شده خبر مشاهده شود، باید اعتبار آن را زیر سوال برد(Karimi, Roy, Saba-Sadiya, & Tang, 2018).
ب) توجه به محتوای خبر: کاربران اینترنت روزانه با هزاران خبر مختلف، در حوزه های متفاوت مواجه می شوند. نظریه های اجتماعی و علمی نشان داده که ضعف افراد در توانایی تشخیص اطلاعات درست از نادرست بسیار مشهود بوده و با اینکه فرد حتی ممکن است از دانش بالایی نیز برخوردار باشد نتواند آن محتوا را به درست تشخیص دهد، در هر صورت محتوا بسیار شک بر انگیز بوده و تقریبا یک فرد عادی نمی تواند از تشخیص درستی بر خوردار باشد و البته تکنیک خواصی نیز در این زمینه برای تشخیص عامل انسانی تا به حال طراحی نشده و فقط منوط به سواد رسانه ای می باشد(Kumar & Shah, 2018).
ج) تیتر خوانی: یکی از مهم ترین نکات و رفتاری که یک کاربر در مواجه با بنباران اطلاعاتی، فقط تیتر خوانی است و به علت زیاد بودن اخبار، برداشت متن خبر نیز معمولا از تیتر اخبار نشات می گیرد، این موضوع سبب می شود تا علاوه بر عدم توجه به داخل متن، درگیر تیتر های جنجالی، جذاب و به اصطلاح زرد شده و از محتوا جا بماند. معمولا تیتر ها برای دریافت کلیک بیشتر طراحی و چشم نواز تر است، در نتیجه ممکن است که اصلا تیتر با محتوای خبر هم خوانی نداشته و حتی با واقعیت های بیان شده در متن نیز در تعارض باشد، یا ممکن است که از افعال معکوس و توصیفاتی استفاده شود که در لحظه اول خواننده فقط جذب شده و درک کاملی از محتوا پیدا نکند، نکته بعدی نیز در بدبینی افراد به اخبار نهفته بوده و مخصوصا در کشور های جهان سومی، همیشه یک کاربر آنلاین با چشم بدبینی به اخبار نگاه کرده و در نتیجه این عدم اعتماد جمعی باعث خواهد شد تا تیتر ها از قدرت گمراه کنندگی بیشتری برخوردار باشند(Bourgonje, Schneider, & Rehm, 2017).
د) کنترل منبع پشتیبان: در دنیای خبری کشور ایران خیلی مرسوم نیست که اخبار دارای ارجاعات داخلی متنی و معرفی منابعی باشد که ، کنه خبر از آن اقتباس شده است. با این حال یک خبر قوی که دارای نویسنده معتبری باشد، همیشه ارجاعاتی به دانش متخصصان، داده های آماری و نظر سنجی، اسناد پشتیبان و منابع خارجی و داخلی را در محتوا ایجاد می نماید تا از اعتبار بالاتری برخوردار باشد. در نتیجه با کمی وقت می توان از طریق مطالعه اینگونه منابع به درستی خبر پی برد. البته لازم به ذکر است که این موضوع بیشتر در مجامع علمی کاربرد داشته و روزنامه نگاران معمولا اینگونه برخوردی ندارند(ifla.org, 2020).
ه) حس نهفته در موضوع خبر: بیشتر اخبار جعلی با تمرکز بر احساسات خواننده، توانایی فریب را به دست آورده و هدف خود را به او القا می نمایند، اخبار جعلی عمدا بر حس طنز، ترس، اضطراب، دلسوزی، کنجکاوی و آشفتگی خوانندگان تاثیر گذاشته تا جذابیت بالایی را برای کاربر ایجاد نمایند. در واقع برای مواجه با این گونه موضوعات باید فردی که به دنبال کسب دانش از یک خبر می گردد باید این استراتژی را دنبال نماید که اولا بر احساسات خود غلبه و ثانیا میزان حساسیت خبر را تشخیص دهد، اگر خبری بیش از حد جنجالی و دور از واقع بود و یا از حس شوخ طبعی زیادی بر خوردار بود، حتما نیاز است تا بیشتر در مورد آن مطالعه و فقط به خواندن یک خبر بسنده نکند. پس مطالعه یک خبر باید به دور از تعصبات شخصی، قضاوت زود هنگام و خوش بینی زیاد مطالعه شده و همیشه حس کنجکاوی فرد باید او را به مطالعه بیشتر در موضوعاتی که حساسیت بر انگیز است را داشته باشد(Esmaieli, Rahimi, & Moradi, 2019).
ت) بررسی زمینه اجتماعی: یکی دیگر از روش های تشخیص مبتنی بر شک، ذن و گمان اجتماعی است. مسئله این است که فرد باید میزان باور پذیری یک خبر را چک کند، زیرا ممکن است اخبار از قلو زیادی برخوردار باشد، در پس آن حتما تاریخ انتشار و موقعیت زمانی خبر باید مورد دقت قرار گیرد، زیرا اخبار یا از موقعیت های قدیمی برای تاثیر بر زمان حال استفاده و یا از نزدیکی یک رویداد حساس مثل انتخابات استفاده و معمولا در این رویداد ها خبر های جعلی بیشتر گسترش پیدا می کند، در نتیجه موقعیت زمانی خبر نیز از اهمیت بالایی برخوردار می باشد(Shu, Wang, & Liu, 2019).
2.استفاده از سایت های حقیقت یاب:
با توجه به مهم شدن موضوع رسانه و اخبار جعلی در دنیا، امروزه سازمان های متولی رسانه در دنیا، از نوعی سیستم خود نظارتی بر پایه گزارش های انسانی و البته چک کردن بسیاری از اخبار مهم به صورت نظارت بر خروجی رسانه ها، در حال بررسی واقعیت و صحت سنجی اخبار می باشند. با توجه به این موضوع خبر در واقع مخلوطی از اطلاعات چند رسانه ای از جمله، تصویر، فیلم، متن، صوت و بسیاری موارد دیگر است که با یک طبقه بندی ساده، آرشیو و مقایسه، نمی توان به درستی برچسب حقیقت را به آن زد. با این تفاسیر بسیاری از سازمان ها با استفاده از معیار های پردازش تصویر برای یک خبر و مقایسه آن با آرشیو و از طریق امکانات درک متن و تصویر، در تلاش هستند تا درستی یک خبر را تایید نمایند و این روش ها در حال پیشرفت می باشد. برخی منابعی که امروزه به صورت آنلاین و به زبان انگلیسی فعالیت می کنند به شرح زیر می باشد:
سایت های بسیاری از جمله( Google Fact Check Tools، FackCheck.org، Classify.news،Factmata.com، Snopes.com، TruthOrFiction.com، Hoaxy.iuni.iu.edu) در حال فعالیت بوده و هرکدام از آنها دارای خصوصیات خاص به خود می باشند. بیشتر این سایت ها با استفاده از الگوریتم های یادگیری ماشین و درک زبان طبیعی (3NLP) به بررسی محتوای متنی پرداخته و همچنین با بررسی های روزانه سایت های معتبر را از غیر معتبر تفکیک می نمایند. نکته اصلی این سایت ها در تعداد افراد استفاده کننده و وسعت عملیاتی آنها است، زیرا تمامی این روش ها نیازمند یک دیتا بیس قوی بوده و هرچه این دیتا بیس بزرگتر باشد، در نتیجه دقت آنها نیز بیشتر خواهد بود، شاید معروف ترین آنها مربوط به گوگل و سایت FackCheck که ابتکار شرکت فیس بوک است می باشد.
3.اثر سوم شخص در کشف اخبار جعلی:
در واقعی یکی از پژوهش های مطالعه شده نشان داده که در کشف و شناسایی اخبار جعلی در حیطه عوامل انسانی اثر سوم شخص می باشد، در واقع اگر شما به فردی مشاوره خبری داده و یا در بحث و گفتگو در مورد آن خبر بپردازید، سوم شخص می تواند در تصمیم گیری بین درست و غلط بودن خبر ، بر روی یک فرد بسیار موثر واقع شود، به عنوان مثال فردی که دارای تحصیلات بیشتر، سواد رسانه ای بیشتر، درآمد بیشتر و یا جهت گیری سیاسی همسو با شما باشد، می تواند تاثیر زیادی را بر قبول یا رد یک خبر بگذارد، در نتیجه این اثر، اثر سوم شخص نامیده شده است.(Corbu et al., 2020) نکته جالب این است که سن در مطالعات نقشی را ایفا نکرده ولی، شاید در جوامعی که به صورت سنتی زدگی کرده و یا دارای فرهنگ های خاصی باشند که درکی کورکورانه از سن داشته باشند، سن نیز در کشف اخبار جعلی در آن جوامع خاص نقش پذیر باشد.
4-2 روش های شناسایی ماشینی
این دسته از روش ها به چندین بخش تقسیم می شوند، با توجه به مطالعات انجام شده، می توانیم به بخش های زیر طبقه بندی نماییم:
1. روش های مبتنی بر حساب کاربری افراد
2. روش های تحلیل محتوا
3. روش های داده کاوی و یادگیری ماشین
4. روش های ترکیبی
4-2-1 روش های مبتنی بر حساب کاربری افراد
پژوهش های انجام شده نشان از فعالیت های بسیاری برای کشف حساب های کاربری شده که مخرب بوده و در واقع به پخش اخبار جعلی، کامنت های جعلی و بسیاری از موارد دیگر می پردازند، شاید نکته اصلی و سخت ماجرا تفکیک بین این حساب های کاربری باشد، زیرا حساب کاربری دارای دو جنبه است یکی حساب هایی که توسط ربات ها هدایت شده و دیگری حساب های جعلی که توسط خود انسان اداره می شود.
روش های بسیاری در این حوزه وجود دارد ولی نکات بسیار مهم توجه به شاخص هایی است که در تحلیل های و الگوریتم های مختلف مورد استفاده قرار گرفته، از جمله این شاخص ها برای طبقه بندی حساب کاربری افراد می توان به (مکان حساب، زمان ایجاد حساب، تایید یا عدم تایید حساب کاربری در شبکه اجتماعی، میزان فعالیت کاربر، بررسی الگو های زمانی در حساب کاربری، میانگین زمانی ارسال پست های متوالی، فرکانس پاسخ دهی به کامنت ها، تعداد اشتراک پست در یک بازه زمانی، استتار مکان جغرافیایی به وساطه عدم دسترسی نرم افزار به موقعیت مکانی، بررسی اطلاعاتی در مورد تعداد فالوور و روابط بین دوستان یک حساب، نمره های بررسی احساسات یک حساب، از جمله قطبش، میزان پاسخ به احساسات، میزان شادی بیان شده، نمرات تحریک، قدرت و غلبه) بیان شده است. در واقع حساب های کاربری از چهار جهت بررسی می شوند:
1.شرایط حساب کاربری: در واقع زمان ، مکان و وضعیت حساب از لحاظ پروفایل آن و متغییر ها بررسی می شود.
2.تحلیل رفتاری حساب کاربری: این تحلیل مربوط به رفتار های زمانی حساب در فعالیت های اشتراک گذاری، پست گذاری، توالی زمانی و فرکانس فعالیت است که معمولا در حالت های انسانی این توالی های زمانی بسیار پایین تر از ربات ها می باشد.
3.شاخص های اعتبار سنجی: اصل اعتبار یک حساب به تعامل او با جامعه دوستان و فالووئر ها می باشد، در واقع اعتبار حساب هایی که دارای پیرو کمتر می باشد و این موضوع بسیار مشهود بوده و فرآیند های لایک، دیسلایک و فالو و آنفالو نیز در این موضوع بسیار اهمیت دارد.
4.احساسات حساب کاربری: یکی از نکاتی که باعث تمایز انسان و ربات یا افرادی که به صورت فیک فعالیت می کنند، محرک های احساسی می باشد در واقع عوامل مرتبط با احساسات می تواند در تحلیل ها مورد استفاده قرار گیرد، این روش ها بر اساس تحلیل های روانشناختی کلمات کلیدی و یا تکرار شده در بیشتر متن های به اشتراک گذاشته می شود، متغییر های احساسی می تواند تفاوت انسان و ربات را به راحتی تشخیص دهد.
4-2-2 روش های تحلیل محتوا
محتوا در یک خبر به طور معمول از متن، عکس، فیلم تشکیل شده و هدف آن ارتباط با مخاطب و تاثیر گذاری بر مخاطب می باشد، تحلیل ها و روش های بسیاری در این زمینه وجود داشته که مبتنی برا الگوریتم های شناسایی زبان طبیعی و تجزیه و تحلیل های عکس می باشد. در کل جهت گیری های مقالات در تحلیل محتوا بر اساس موارد زیر می باشد:
1.الگوریتم های تحلیل معنا و زبان: اخبار جعلی معمولا جهت گیری های سیاسی، مالی داشته و از سبک های خاصی در متن پیروی می کند. نکته اصلی این است که بیشتر اخبار جعلی برای تاثیر گذاری های مسائل خاص پدید آمده و معمولا در زمان های انتخابات و یا تغییرات مالی مهم شرکت ها و شرایط اقتصادی و ... بیش از پیش دیده می شود. در نتیجه بیشتر اخبار نیز جهت گیری خاصی از یک مسئله را داشته و در آن جهت دست به تغییر واقعیت می زنند. هدف از این گونه تحلیل ها مشاهده و دریافت قالب های مشابه خبری و کشف الگوهای نوشتاری خاص می باشد. الگوریتم ها در این زمینه عبارت است از : N-grams، LIWC، RST، BiGRNN-CNN، LSTM، LSTM[s]، Bag of Words می باشد. بیشتر این الگوریتم ها بر اساس تعداد شمارش کلمات تکرار شده، کار کرده و فارق از دستور زبان بوده و یا بر اساس توالی استفاده از هجا، حروف و کلمات بوده و به دستور زبان توجه می کنند.
2.تحلیل های مبتنی بر مفهو و معنا: یکی از نکات مهم در این گونه متون استفاده از کلمات اغراق آمیز در عنوان و یا استفاده از عنوان های غیر مرتبط با مفهوم متن خبر بوده و تاثیر خود را بر مخاطب می گذارند. پس به طور معمول عنوان متن هیچ ارتباط معنایی با محتوا خبر نخواهد داشت. البته بررسی نظرات نیز می تواند تاثیر زیادی را داشته و به درک بهتری از محتوا رسید. یکی دیگر از نکاتی که باید به آن توجه کرد، تحلیل سابقه فرد تولید کننده خبر بوده و سازگاری آن با محتوای جدیدی تولید شده می تواند از نشانه هایی برای کشف اخبار جعلی استفاده شود.
3.تجزیه تحلیل علمی اخبار: یکی از روش های مرسوم در تحلیل و تشخیص، استفاده از صحت رشته ای اخبار حکایت داشته و نیاز است تا پایگاه داده ای قبلا روی نوعی از اخبار بررسی کرده و بعد این داده ها برای آموزش هوش مصنوعی استفاده شده تا در تشخیص الگو ها بهتر عمل نماید. در واقع پیام ها و اخبار در اکثر موارد به علت تاثیر در یک خبر خاص از دارای یک الگو و هدف بوده و در نتیجه نیاز است تا یک مورد خاصی را به کاربر القاء نماید پس می تواند این الگو تکرار شده و در نتیجه بتوان خبر های بعدی را از همین الگو به واسطه پایگاه داده شناسایی کرد. حال نکته این است که هرچه پایگاه داده و تلاش های انسانی در موضوعی خاص بیشتر بوده باشد، توانایی تفکیک، تحلیل و تشخیص الگوریتم ها بیشتر شده و این امر یک رابطه خطی را شامل می شود. پس تحلیل های علمی و استفاده از هوش مصنوعی مستلزم داشتن پایگاه داده ای مناسب بوده که در کشور ما تقریبا ناموجود می باشد.
4.تحلیل بر اساس تقلید از سبک مخاطب: معمولا کاربران آنلاین، نظر و احساس خود را در موردی خاص از جمله، محصول خاص، سیاست خاص و شرایط خاص، به یک سبک خاصی نگارش می کنند و واکنش نشان میدهند. پس حتما تمایز بین مخاطب و حساب کاربری فیک وجود داشته در نتیجه: نحوه نگارش اخبار از جمله، تعداد استفاده از فعل، اسم، کلمات احساسی، کلمات خاص زیاد تکرار شده، نشانه های مشکوک، هشتگ ها، لینک های گذاشته شده، نام های مورد استفاده و بسیاری از موراد دیگر که در حوزه های پیچیدگی و خوانایی متن خبر می باشد. در واقع استفاده از لاگ نوشتاری خبر نیز بسیار مهم است، زیرا یک نویسنده خبر جعلی بر حسب مطالعات انجام شده بیشتر دچار اشتباه شده و در نتیجه بیشتر متن خود را تصحیح می کند، پس این موضوع می توان نشانی از عدم صداقت نویسنده باشد. نکته بعدی نیز نویسنده خبر است، زیرا سابقه یک نویسنده و اعتبار آن می تواند بر اعتبار خبر بسیار موثر باشد.
5.زمینه اجتماعی: در بسیاری از مقالات و مطالعات بر زمینه اجتماعی یک خبر تاکید شده و دلیل آن نیز به علت توزیع سریع و گسترده اخبار به وساطه کاربران و نحوه تعامل آنها با یک خبر است. زمینه های اجتماعی معمولا بر دو اصل تکیه دارند، یکی مفهوم توزیع و تجزیه تحلیل کاربر است، به عنوان مثال اگر خبری که منتشر شده ، توسط بسیاری دیگر از حساب های کاربری مشکوک، منتشر و توزیع شود، احتمال این است که آن خبر حاوی اطلاعات نادرست باشد. همچنین باید به فاکتور اعتبار خود یک شبکه اجتماعی نیز توجه کرد، به عنوان مثال اگر شبکه دارای اعتبار پایین باشد احتمال اینکه آن خبر جعلی باشد بیشتر است. زیرا عامل های نظارتی بر روی شبکه ها با یک دیگر بسیار متفاوت است. خود الگو های انتشار و فرکانس زمانی انتشار اخبار اطلاعات بسیار خوبی را در درون خود دارند، البته در این مورد نیزا به پژوهش های بسیاری می باشد و هنوز این مسئله بکر و دست نخورده است.
4-2-3 روش های داده کاوی
منظور از داده کاوی در اصل ، تجزیه و تحلیل، ویژگی هایی است که از تمامی ارکان خبر استخراج شده و به داده های آماری، یا عددی تبدیل شده است. مدل های بسیاری از داده کاوی و یادگیری ماشین وجود داشته که به سه دسته عمده (نظارت شده، نیمه نظارت شده و بدون نظارت تقسیم بندی می شوند.)
در واقع در وحله اول داده های استخراج و در پایگاه های داده ذخیره می شود، هرچه این پایگاه داده قوی تر و داده های متنوع تری را تحلیل کرده باشد، فرآیند آموزش ماشین و هوش مصنوعی نیز راحت تر بوده و قدرت استخراج و کشف نیز بالاتر می رود. بسیاری از شبکه های اجتماعی همچون توییتر نیز برای بهبود پایگاه های داده خود و همچنین ، افزایش فرآیند آموزش ماشین، داده های طبقه بندی شده را برای کاربران ارسال و بازخورد های لازم را جمع آوری کرده تا بتوان این فرآیند را گسترش داد. در واقع در شبکه توییتر خزنده ها داده های بسیاری را از مشارکت افراد در این حوزه ذخیره می نمایند. یادگیری های نظارت شده معمولا به وساطه درخت تصمیم ، جنگل تصادفی ، ماشین بردار پشتیبانی (SVM) ، رگرسیون لجستیک ، نزدیکترین همسایه K استفاده شده و بسیاری از معیار ها را ارزیابی می کنند. به هیم واسطه الگوریتم های یادگیر عمیق نیز به وجود آمده مه در زمینه های تشخیص گفتار و شی های بصری موفقیت های زیادی را کسب کرده است. دیگر مسئله توجه به ساختار توالی داده های بوده و یادگیری عمیق راهکار های مناسبی را در این زمینه عرضه کرده است.
4-2-4 روش های ترکیبی
مطالعات ترکیبی همان طور که از اسم آن مشخص است بیشتر در جنبه های بهینه سازی و افزایش کارایی فعالیت داشته و معمولا شاخص های انسانی را با الگوریتم ها ترکیب کرده تا مدل های پیشرفته تری شکل بگیرد. در واقع یادگیری های ماشینی را با رویکرد های شبکه ای و استفاده از امتیاز دهی های وزن دار، و بسیاری از الگوریتم های مختلف ترکیب تا مدل های بهینه تری نسبت به قبل تولید شود.
5.نتیجه گیري
گستردگی استفاده از شبکه های اجتماعی، افزایش روز افزون سرعت انتشار اخبار به این واسطه و بسیاری از پیشرفت های حوزه فناوری اطلاعات باعث شده تا افراد راحتی و سرعت دسترسی آنلاین را به خبر گذاری های رسمی و متعهد (احتمالا) کم کرده و ثانیا تولید محتوا به واسطه بازخورد های اجتماعی هر شبکه ، تولید کنندگان محتوا با به درک بیشتری از نیاز های اجتماعی رسانده و روش های تاثیر گذاری بیشتری نیز بر این اساس پدید آمده است. پس این بستر به پایگاهی برای تاثیر گذاری اجتماعی تبدیل و در نتیجه عوامل مخرب نیز بیشتر از پیش شده زیرا توان نظارت بر حجم های گسترده محتوای تولید شده کمتر از گذشته خواهد بود. این موضوع یکی از موارد تهدید کنده به حساب آمده تا اخبار جعلی بتواند هرچه سریع تر پخش و از تاثیر گذاری اجتماعی بالایی برخوردار باشد.
نتایج مطالعه حاضر حاکی از آن بوده که با توجه به فعالیت‌های بسیار در خارج از کشور برای جلوگیری از پخش اخبار جعلی، هنوز این پژوهش‌ها کافی نبوده و در داخل کشور هیچ پژوهشی مبنی بر کشف خبر جعلی خصوصاً در شبکه‌های اجتماعی صورت نگرفته و بیشتر به توصیفی از خبر جعلی پرداخته‌شده است.
مرور مطالعات در این زمینه نشان داده که روش‌های مبتنی بر خود فرد کارآمدی تاثیر چندانی نداشته زیرا فرد التزام به عمل داشته و باید پیگیری‌های لازم را برای کشف درست یا غلط بودن خبر انجام دهد، با توجه به عدم وجود پایگاه داده‌ای برای مراجعه و مقایسه خبر با اخبار مورداطمینان این پایگاه، لزوم به ساخت یک پایگاه داده امن در کشور احساس شده که به زبان فارسی اخبار را کنترل و توسط افراد مجرب که دارای تخصص در این زمینه می‌باشند، بررسی گردد. البته با توجه به عدم استفاده گسترده از شبکه‌های اجتماعی داخلی و بیشتر رجوع به شبکه‌های خارجی، باید بتوان با رایزنی کرد تا دسترسی به داده‌های پایگاه داده فراهم تا از پخش اخبار جعلی جلوگیری شود. لزوم همکاری‌های بین‌المللی در این زمینه بسیار احساس شده است.
در این پژوهش در حد بضاعت تلاش شده تا فرآیندهای شکل‌گیری، ویژگیهای و وجوه تمایز بین روش‌های تشخیص اخبار جعلی بر اساس آخرین دستاوردهای بشری در این حوزه تشریح شده تا در مطالعات علوم ارتباطات و حوزه تأثیرگذار تولید خبر و محتوا، در جهت تشخیص اخبار جعلی بررسی و تدوین گردد.
با توجه به این موضوع که بیشتر مخاطب خبر افراد عام جامعه بوده و رسالت خبر در، انتشار اطلاع، از وضعیت سیاسی، اقتصادی و اجتماعی جهان پیرامون فرد هست، باید روش‌هایی را در نظر گرفت که خبر دریافتی توسط یک فرد عام، کمترین آلودگی را داشته و تصویر درستی را به فرد القا نماید. بسیاری از مشکلات امروزی حاصل همین سوءاستفاده و نیتی است، که گروه‌های مختلف، در انتشار اخبار به‌کاربرده‌اند.
علی ایحال، گستردگی استفاده از شبکه‌های اجتماعی، افزایش روزافزون سرعت انتشار اخبار به این واسطه و بسیاری از پیشرفت‌های حوزه فناوری اطلاعات باعث شده تا افراد راحتی و سرعت دسترسی آنلاین را به خبر گذاری‌های رسمی و متعهد (احتمالاً) کم کرده و ثانیاً تولید محتوا به‌واسطه بازخوردهای اجتماعی هر شبکه ، تولیدکنندگان محتوا با به درک بیشتری از نیازهای اجتماعی رسانده و روش‌های تأثیرگذاری بیشتری نیز بر این اساس پدید آمده است. پس این بستر به پایگاهی برای تأثیرگذاری اجتماعی تبدیل و درنتیجه عوامل مخرب نیز بیشتر از پیش شده زیرا توان نظارت بر حجم‌های گسترده محتوای تولیدشده کمتر از گذشته خواهد بود. این موضوع یکی از موارد تهدید کنده به‌حساب آمده تا اخبار جعلی بتواند هرچه سریع‌تر پخش و از تأثیرگذاری اجتماعی بالایی برخوردار باشد.
روش ها و شاخص های ارائه شده در مورد موضوع و پیشرفت های حاصل شده در این زمینه، باز نیز حاکی از ضعف بسیاری در شناخت اخبار جعلی داشته به این علت که :
1.مدل های ماشینی از پایگاه داده جهت آموزش استفاده کرده و این امر سبب شده تا وابستگی به این زمینه نتوان مدلی را ارئه داد که در فضای واقعی به درستی عمل نماید.
2.استفاده از روش های انسانی بسیار زمان بر بوده و تا تحلیل و کشف یک خبر جعلی، تولید کنندگان آن خبر به احتمال به اهداف خود خواهند رسید.
در نتیجه هنوز نیز ضعف در تشخیص وجود داشته و در بسیاری از موارد مواجه با فضای واقعی خوب عمل نشده است، با این حال در سال های اخیر شبکه اجتماعی توییر بسیار بهتر از دیگر شبکه ها عمل کرده است. باید این دو چالش عمده مد نظر قرار گرفته و با ترغیب روش های انسانی از جمله مسئولیت پذیری مردم، توان نظارتی شبکه های اجتماعی بالا رفته و این امر شاید به بهبود وضع موجود کمک نماید.
منابع
Allcott, Hunt, & Gentzkow, Matthew. (2017). Social Media and Fake News in the 2016 Election %J Journal of Economic Perspectives. 31(2), 211-236. doi:10.1257/jep.31.2.211
Bakhteev, Oleg, Ogaltsov, Aleksandr, & Ostroukhov, Petr. (2020). Fake News Spreader Detection using Neural Tweet Aggregation. Paper presented at the CLEF.
Baruah, Arup, Das, K, Barbhuiya, F, & Dey, Kuntal. (2020). Automatic Detection of Fake News Spreaders Using BERT. Paper presented at the CLEF.
Benson, Rodney %J Political Communication. (2004). Bringing the sociology of media back in. 21(3), 275-292.
Bourgonje, Peter, Schneider, Julian Moreno, & Rehm, Georg. (2017). From clickbait to fake news detection: an approach based on detecting the stance of headlines to articles. Paper presented at the Proceedings of the 2017 EMNLP Workshop: Natural Language Processing meets Journalism.
Cardaioli, Matteo, Cecconello, Stefano, Conti, Mauro, Pajola, Luca, & Turrin, Federico. (2020). Fake News Spreaders Profiling Through Behavioural Analysis. Paper presented at the CLEF.
Corbu, Nicoleta, Oprea, Denisa-Adriana, Negrea-Busuioc, Elena, & Radu, Loredana %J European Journal of Communication. (2020). ‘They can’t fool me, but they can fool the others!’Third person effect and fake news detection. 35(2), 165-180.
De Grandis, Marco, Pasi, Gabriella, & Viviani, Marco. (2019). Fake news detection in microblogging through quantifier-guided aggregation. Paper presented at the International Conference on Modeling Decisions for Artificial Intelligence.
Esmaieli, A, Rahimi, S, & Moradi, M. (2019). The Relationship between Information Literacy and the Ability of Library Users to Spot Fake News Based on the Components of IFLA Infographic.
Faustini, Pedro Henrique Arruda, & Covões, Thiago Ferreira %J Expert Systems with Applications. (2020). Fake news detection in multiple platforms and languages. 113503.
Fersini, Elisabetta, Armanini, Justin, & D’Intorni, Michael. (2020). Profiling Fake News Spreaders: Stylometry, Personality, Emotions and Embeddings. Paper presented at the CLEF.
Gardiner, Harris, & Melissa, Eddy. (2016). Obama, with Angela Merkel in Berlin, Assails Spread of Fake News.
Gautam, Akansha, & Jerripothula, Koteswar Rao %J arXiv preprint arXiv:.06854. (2020). SGG: Spinbot, Grammarly and GloVe based Fake News Detection.
Giachanou, Anastasia, Zhang, Guobiao, & Rosso, Paolo. (2020). Multimodal Fake News Detection with Textual, Visual and Semantic Information. Paper presented at the International Conference on Text, Speech, and Dialogue.
Giglou, Hamed Babaei, Razmara, Jafar, Rahgouy, Mostafa, & Sanaei, Mahsa. (2020). LSACoNet: A Combination of Lexical and Conceptual Features for Analysis of Fake News Spreaders on Twitter. Paper presented at the CLEF.
Goldman, Russell. (2016). Reading Fake News, Pakistani Minister Directs Nuclear Threat at
Israel.
Gravanis, Georgios, Vakali, Athena, Diamantaras, Konstantinos, & Karadais, Panagiotis. (2019). Behind the cues: A benchmarking study for fake news detection. Expert Systems with Applications, 128, 201-213. doi:https://doi.org/10.1016/j.eswa.2019.03.036
Herman, Edward S, & Chomsky, Noam. (2010). Manufacturing consent: The political economy of the mass media: Random House.
Horne, Benjamin D, Nørregaard, Jeppe, Adali, Sibel %J ACM Transactions on Intelligent Systems, & Technology. (2019). Robust fake news detection over time and attack. 11(1), 1-23.
Kaliyar, Rohit Kumar, Goswami, Anurag, Narang, Pratik, & Sinha, Soumendu. (2020). FNDNet – A deep convolutional neural network for fake news detection. Cognitive Systems Research, 61, 32-44. doi:https://doi.org/10.1016/j.cogsys.2019.12.005
Karimi, Hamid, Roy, Proteek, Saba-Sadiya, Sari, & Tang, Jiliang. (2018). Multi-source multi-class fake news detection. Paper presented at the Proceedings of the 27th International Conference on Computational Linguistics.
Karimi, Hamid, & Tang, Jiliang %J arXiv preprint arXiv:.07389. (2019). Learning hierarchical discourse-level structure for fake news detection.
Kaur, Sawinder, Kumar, Parteek, & Kumaraguru, Ponnurangam %J Soft Computing. (2020). Automating fake news detection system using multi-level voting model. 24(12), 9049-9069.
Kershner, James W. (2011). Elements of News Writing: Pearson Higher Ed.
Kovach, Bill, & Rosenstiel, Tom. (2014). The elements of journalism: What newspeople should know and the public should expect: Three Rivers Press (CA).
Kula, Sebastian, Choraś, Michał, Kozik, Rafał, Ksieniewicz, Paweł, & Woźniak, Michał. (2020). Sentiment analysis for fake news detection by means of neural networks. Paper presented at the International Conference on Computational Science.
Kumar, Srijan, & Shah, Neil %J arXiv preprint arXiv:.08559. (2018). False information on web and social media: A survey.
Le, Thai, Wang, Suhang, & Lee, Dongwon %J arXiv preprint arXiv:.01048. (2020). MALCOM: Generating Malicious Comments to Attack Neural Fake News Detection Models.
Monti, Federico, Frasca, Fabrizio, Eynard, Davide, Mannion, Damon, & Bronstein, Michael M %J arXiv preprint arXiv:.06673. (2019). Fake news detection on social media using geometric deep learning.
Nguyen, Duc Minh, Do, Tien Huu, Calderbank, Robert, & Deligiannis, Nikos. (2019). Fake news detection using deep markov random fields. Paper presented at the Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers).
Nguyen, Van-Hoang, Sugiyama, Kazunari, Nakov, Preslav, & Kan, Min-Yen %J arXiv preprint arXiv:.07939. (2020). FANG: Leveraging Social Context for Fake News Detection Using Graph Representation.
Ni, Bo, Guo, Zhichun, Li, Jianing, & Jiang, Meng %J arXiv preprint arXiv:.00838. (2020). Improving Generalizability of Fake News Detection Methods using Propensity Score Matching.
Ozbay, Feyza Altunbey, & Alatas, Bilal. (2020). Fake news detection within online social media using supervised artificial intelligence algorithms. Physica A: Statistical Mechanics and its Applications, 540, 123174. doi:https://doi.org/10.1016/j.physa.2019.123174
Richardson, Brian. (2007). The Process of Writing News: From Information to Story: Allyn & Bacon.
Rini, Regina. (2017). Fake news and partisan epistemology. Kennedy Institute of Ethics Journal, 27(2), E-43-E-64.
Rubin, Victoria L %J Proceedings of the American Society for Information Science, & Technology. (2010). On deception and deception detection: Content analysis of computer‐mediated stated beliefs. 47(1), 1-10.
Shoemaker, Pamela J, & Reese, Stephen D. (2013). Mediating the message in the 21st century: A media sociology perspective: Routledge.
Shu, Kai, Mahudeswaran, Deepak, Liu, Huan %J Computational, & Theory, Mathematical Organization. (2019). FakeNewsTracker: a tool for fake news collection, detection, and visualization. 25(1), 60-71.
Shu, Kai, Wang, Suhang, & Liu, Huan. (2019). Beyond news contents: The role of social context for fake news detection. Paper presented at the Proceedings of the Twelfth ACM International Conference on Web Search and Data Mining.
Shu, Kai, Zhou, Xinyi, Wang, Suhang, Zafarani, Reza, & Liu, Huan. (2019). The role of user profiles for fake news detection. Paper presented at the Proceedings of the 2019 IEEE/ACM International Conference on Advances in Social Networks Analysis and Mining.
Singhal, Shivangi, Shah, Rajiv Ratn, Chakraborty, Tanmoy, Kumaraguru, Ponnurangam, & Satoh, Shin'ichi. (2019). SpotFake: A Multi-modal Framework for Fake News Detection. Paper presented at the 2019 IEEE Fifth International Conference on Multimedia Big Data (BigMM).
Sitaula, Niraj, Mohan, Chilukuri K, Grygiel, Jennifer, Zhou, Xinyi, & Zafarani, Reza. (2020). Credibility-based fake news detection. In Disinformation, Misinformation, and Fake News in Social Media (pp. 163-182): Springer.
Steinebach, Martin, Gotkowski, Karol, & Liu, Hujian. (2019). Fake News Detection by Image Montage Recognition. Paper presented at the Proceedings of the 14th International Conference on Availability, Reliability and Security.
Suri, Bhawna, Taneja, Shweta, Aggarwal, Soumya, & Sharma, Vibhakar Raj. (2020). Fake news detection tool (FNDT): Shield against sentimental deception. Journal of Information and Optimization Sciences, 1-12. doi:10.1080/02522667.2020.1802125
Torabi Asr, Fatemeh, Taboada, Maite %J Big Data, & Society. (2019). Big Data and quality data for fake news and misinformation detection. 6(1), 2053951719843310.
Tschiatschek, Sebastian, Singla, Adish, Gomez Rodriguez, Manuel, Merchant, Arpit, & Krause, Andreas. (2018). Fake news detection in social networks via crowd signals. Paper presented at the Companion Proceedings of the The Web Conference 2018.
Umer, Muhammad, Imtiaz, Zainab, Ullah, Saleem, Mehmood, Arif, Choi, Gyu Sang, & On, Byung-Won %J IEEE Access. (2020). Fake News Stance Detection Using Deep Learning Architecture (CNN-LSTM).
Vogel, Inna, & Meghana, Meghana. (2020). Fake News Spreader Detection on Twitter using Character N-Grams. Paper presented at the CLEF.
Vosoughi, Soroush, Roy, Deb, & Aral, Sinan. (2018). The spread of true and false news online. Science, 359(6380), 1146. doi:10.1126/science.aap9559
Wang, Yaqing, Yang, Weifeng, Ma, Fenglong, Xu, Jin, Zhong, Bin, Deng, Qiang, & Gao, Jing. (2020). Weak supervision for fake news detection via reinforcement learning. Paper presented at the Proceedings of the AAAI Conference on Artificial Intelligence.
Wardle, Claire %J First Draft. (2017). Fake news. It’s complicated. 16.
Willmore, Alison. (2016). This Analysis Shows How Viral Fake Election News Stories Outperformed Real News On Facebook.
Wu, Lianwei, & Rao, Yuan %J arXiv preprint arXiv:.10009. (2020). Adaptive Interaction Fusion Networks for Fake News Detection.
Wu, Lianwei, Rao, Yuan, Jin, Haolin, Nazir, Ambreen, & Sun, Ling %J arXiv preprint arXiv:.01720. (2019). Different absorption from the same sharing: Sifted multi-task learning for fake news detection.
Yang, Yang, Zheng, Lei, Zhang, Jiawei, Cui, Qingcai, Li, Zhoujun, & Yu, Philip S %J arXiv preprint arXiv:.00749. (2018). TI-CNN: Convolutional neural networks for fake news detection.
Zhang, Chaowei, Gupta, Ashish, Kauten, Christian, Deokar, Amit V., & Qin, Xiao. (2019). Detecting fake news for reducing misinformation risks using analytics approaches. European Journal of Operational Research, 279(3), 1036-1052. doi:https://doi.org/10.1016/j.ejor.2019.06.022
Zhang, Danchen, & Zadorozhny, Vladimir I. (2020). Fake News Detection Based on Subjective Opinions. Paper presented at the European Conference on Advances in Databases and Information Systems.
Zhang, Dongsong, Zhou, Lina, Kehoe, Juan Luo, & Kilic, Isil Yakut. (2016). What Online Reviewer Behaviors Really Matter? Effects of Verbal and Nonverbal Behaviors on Detection of Fake Online Reviews. Journal of Management Information Systems, 33(2), 456-481. doi:10.1080/07421222.2016.1205907
Zhang, J., Dong, B., & Yu, P. S. (2020, 20-24 April 2020). FakeDetector: Effective Fake News Detection with Deep Diffusive Neural Network. Paper presented at the 2020 IEEE 36th International Conference on Data Engineering (ICDE).
Zhou, Xinyi, Jain, Atishay, Phoha, Vir V., & Zafarani, Reza. (2020). Fake News Early Detection: A Theory-driven Model. 1(2 %J Digital Threats: Research and Practice), Article 12. doi:10.1145/3377478
Zhou, Xinyi, Wu, Jindi, & Zafarani, Reza %J arXiv preprint arXiv:.04981. (2020). SAFE: Similarity-aware multi-modal fake news detection.
Zhou, Xinyi, & Zafarani, Reza %J ACM SIGKDD Explorations Newsletter. (2019). Network-based fake news detection: A pattern-driven approach. 21(2), 48-60.
[1] Institute of Electrical and Electronics Engineers
[2] fact-checking
[3] natural language processing