Ahrefs được các Seoer sử dụng để lần theo đối thủ, soi backlink của đối thủ từ đó tiếp cận nguồn tài nguyên seo của đối thủ. Tuy nhiên, Ahrefs hoạt động dựa trên việc tạo các con bot. Những con Bot này sẽ di chuyển đến từng website, tra xét thông tin của các trang web đó và trả về kết quả. Đây cũng chính là một trong những nguyên nhân khiến bài viết của bạn bị ăn cắp thông tin. Do đó, để bảo vệ thông tin các bài viết trên trang của mình, bạn cần chặn các con bot này. Vậy làm thế nào để chặn Bot Ahrefs hiệu quả nhất, triệt để nhất. Cùng City IT tìm hiểu nội dung bài viết dưới đây!
Ahrefs là một công cụ cần trả phí dùng để phân tích thông tin của website bất kỳ. Công cụ này hỗ trợ cho việc SEO rất tốt nên được đa số mọi người sử dụng.
SEO là viết tắt của từ tiếng anh, tạm dịch là tối ưu hóa công cụ tìm kiếm. SEO tốt cần tìm được chủ đề tốt và từ khóa tốt. Do đó, nhiều SEOer đã dùng nhiều biện pháp và công cụ trợ giúp để tìm ra chúng, trong đó có Ahrefs.
Chức năng Tools của Ahrefs tạo ra các con bot rồi thả vào website. Chúng quét qua các trang web để lấy thông tin cho người tìm kiếm như Backlinks, Referring Domains, Organic keywords, Top pages…
tools Ahrefs thường được sử dụng để tra được từ khóa, chủ đề, Backlinks của đối thủ. Các thông tin quan trọng khác có thể kể đến đó là mã miền, thứ hạng xếp hạng trên Google, từ khóa.
Nhưng quan trọng nhất vẫn là Backlinks. Backlink là các nguồn, các nhà tài trợ. Các Backlink chứa rất nhiều thông tin hữu ích giúp một trang web “lên đời”. Trong thời đại các Backlink chất lượng ngày càng ít, thì dùng Ahrefs để tra được một vài cái cũng là ý tưởng không tồi.
Bên cạnh đó, con bot cũng sẽ thu thập thông tin các bài viết có lượt tương tác cao trong trang web. Đây là cách học trên những kinh nghiệm và kết quả của đối thủ. Nước đi sáng suốt này có thể bù đắp cho những thiếu sót của trang web bạn. Vì để các thông tin quan trọng của trang web không bị rò rỉ thì bạn cần chặn các con bot này.
Đây là cách triệt để nhất để chặn bot Ahrefs. Phương pháp này phù hợp với các bạn không hiểu biết quá nhiều về môn lập trình.
Bạn cần ghi thêm đoạn code này vào vị trí đầu của file header.php trong thư mục
Theme đang dùng:
<?php $useragent = $_SERVER [‘HTTP_USER_AGENT’];
if (preg_match(‘/AhrefsBot/’,$useragent)){
wp_redirect(‘http://Google.com’);
exit();
}
?>
Giải thích:
Theo cách này, ta đã giả lập UserAgent thành AhrefsBot và đã thử nghiệm thành công chuyển nó sang Google, trong các thống kê truy cập không còn AhrefsBot nữa.
Một phương pháp khác cũng đơn giản không kém để chặn bot Ahrefs lại, đó là cần thêm 2 dòng này vào file robots.txt:
user-agent: AhrefsBot
disallow: /
Ngoài ra, để kiểm soát tần suất quét qua của Ahref Bot, ta có thể thêm 2 dòng này vào file robot:
User-Agent: AhrefsBot
Crawl-Delay: 1
Thêm nữa, bạn có thể dùng cách này để chặn một số công cụ khác dò Backlink:
User-agent: AhrefsBot: chặn Ahrefs.com
User-agent: MJ12bot: chặn majesticseo.com
User-agent: chặn rogerbot: moz.com
User-agent: BacklinkCrawler: chặn Backlinktest.com
(lưu ý: mỗi dòng trên là giả lập dành cho riêng mỗi công cụ dò Backlink)
Disallow: /
Nếu bạn chưa có file robots.txt hãy xem hướng dẫn chi tiết cách tạo file robots.txt để tìm hiểu và biết thêm về cách hoạt động của nó.
Tước tiên để thực hiện phương pháp này bạn cần phải có và biết được cách tạo file htaccess. sau đó bạn chèn đoạn code bên dưới vào file này
RewriteEngine On
#moz.com
RewriteCond %{HTTP_USER_AGENT} rogerbot [OR]
#majestic.com
RewriteCond %{HTTP_USER_AGENT} MJ12bot [OR]
#moz.com
RewriteCond %{HTTP_USER_AGENT} dotbot [OR]
#gigablast.com
RewriteCond %{HTTP_USER_AGENT} gigabot [OR]
#Ahrefs.com
RewriteCond %{HTTP_USER_AGENT} AhrefsBot
RewriteRule .* – [F]
Deny from .Ahrefs.com
Deny from .dotnetdotcom.org
#please remove the line below if you don’t want to block requests from AWS
Deny from .amazonaws.com
Bạn thực hiện thao tác sau để chặn bot bằng server, nghĩa là chặn IP của Ahrefs:
Server có tường lửa (Firewall) thì bạn cần chặn cả dãy 151.80.31.0/24 thì sẽ tiết kiệm thời gian. Nếu không, bạn cần truy cập cấu hình .htaccess từng trang web. Hoặc có thể đăng nhập bằng SSH vào các server bằng tài khoản Root, chạy lệnh sau cũng được.
iptables -I INPUT -s 151.80.31.0/24 -j DROP
Kết quả whois dãy IP robots của Ahrefs:
https://whois.domaintools.com/151.80.31.110
https://whois.domaintools.com/151.80.31.111
https://whois.domaintools.com/151.80.31.112
Như vậy, qua bài viết trên đây, City IT đã cung cấp cho bạn 4 phương pháp chặn được bot Ahrefs hiệu quả tuyệt đối. Với những cách trên, bài viết của bạn sẽ được bảo vệ và không lo chuyện bị đánh cắp thông tin bởi các bot Ahrefs. Hy vọng những chia sẻ của chúng tôi sẽ hữu ích đối với các bạn. Nếu bạn muốn tìm hiểu thêm những thông tin bổ ích về công nghệ, hãy theo dõi website City IT thường xuyên nhé!